Transformer modellek belső áramköreinek felhasználás-specifikus

Konzulens:
Barcza Bende
Tárgy:
Önálló laboratórium 1 - Egészségügyi mérnök, MSc Eü.
Önálló laboratórium 2 - Egészségügyi mérnök, MSc Eü.
Önálló laboratórium 1 - Irányító és látórendszerek MSc. főspec.
Önálló laboratórium 1 - Vizuális informatika MSc. főspec.
Önálló laboratórium 2 - Irányító és látórendszerek MSc. főspec.
Önálló laboratórium 2 - Vizuális informatika MSc. főspec.
Önálló laboratórium - Irányítórendszerek ágazat, BSc Vill.
Önálló laboratórium - Szoftverfejlesztés és rendszertervezés specializáció, BSc Info.
Projektfeladat mechatronikusoknak
Hallgatói létszám:
4
Folytatás:
Szakdolgozat / Diplomaterv
TDK dolgozat
Leírás:
A Transformer architektúra a mesterséges intelligenciát alkalmazó minden területeket hatalmas áttöréseket hozott, azok kiemelkedő hatékonyságának köszönhetően. Azonban ahogy a modell paramétereinek száma jelentősen megugrott, azok felügyelhetősége és értelmezhetősége is egyre nehézkesebbé vált. Az egyik nagyon elterjedt modell szolgáltató, Anthropic által kiadott publikáció ennek a limitációnak menedzselésére mutatta be a Transformer modellekben felhasználás-specifikusan megtalálható úgynevezett "áramkörkövetést", link.

Az áramkörök kialakulása segít vizsgálni, hogy az adott alkalmazáshoz mely paraméterek a fontosak, ezzel manipulálható a modell attól függően, hogy milyen viselkedési tulajdonságát szeretnénk "erősíteni vagy gyengíteni".