GUARDRAIL MEHANIZMI U EDUKATIVNIM PLATFORMAMA ZA PROGRAMIRANJE ZASNOVANIM NA VELIKIM JEZIČKIM MODELIMA

Abstract

Veliki jezički modeli nude mogućnosti za personalizovanu podršku u obrazovanju programera, ali njihova upotreba nosi i značajne rizike, uključujući narušavanje akademskog integriteta, prekomerno oslanjanje na alate veštačke inteligencije i generisanje netačnih informacija. Ovaj rad analizira guardrail mehanizme zaštite koji se koriste u edukativnim platformama za programiranje kako bi se ublažili ovi rizici. Kroz pregled skorijih studija, rad identifikuje i kategorizuje različite pristupe, uključujući prompt inženjering, verifikaciju izlaza, Scaffolding mehanizme, kontrolu formata i restrikciju interakcije. Glavni nalaz je da se ovi mehanizmi retko koriste izolovano i da platforme obično kombinuju više mehanizama. Zaključak rada je da su mehanizmi zaštite ključni za transformaciju velikih jezičkih modela iz alata za davanje odgovora u pametne tutorske sisteme koji podstiču kritičko mišljenje i samostalno rešavanje problema, čime se obezbeđuje njihova bezbedna i etička primena u obrazovnom kontekstu.