Az OpenAI egy második neurális hálót javasol a ChatGPT kódhibáinak elkapására
Az OpenAI kiadta a GPT-4 nevű mesterséges intelligencia modelljének frissített változatát, a CriticGPT-t. A modell általános pontosságának növelése érdekében a hibák felismerésére és kijavítására tervezték. A kutatók érvelése szerint a modell egy második neurális hálózatként működik, amely azonosítja a ChatGPT által a kódgenerálás során elkövetett hibákat. A hangsúly a kódíráson van, mivel annak egyértelmű helyes és helytelen válaszai vannak, és az OpenAI azt tervezi, hogy a generatív mesterséges intelligencia segítségével automatizál néhány védőkorlátot a kialakulóban lévő technológiákhoz. A modell fejlesztésében emberi szerződéses programozók vettek részt, akik értékelték a CriticGPT programozási kódokra vonatkozó kritikáit, és ezeket többek között a relevancia, a specifikusság és a teljesség alapján értékelték. A kapott emberi visszajelzések alapján a CriticGPT-t a kritikák finomítására képezték ki, hogy magasabb jóváhagyási pontszámokat érjen el.
A szerzők azonban megjegyzik, hogy ahogy a ChatGPT és más mesterséges intelligenciamodellek is produkálhatnak hibás megállapításokat, a CriticGPT is azonosíthat olyan hibákat, amelyek nem léteznek. Ennek ellenére a modell eredményei azt mutatják, hogy a CriticGPT “jelentősen javítja a beillesztett hibák észlelésének arányát”, több hibát azonosítva, mint az emberi kommentátorok. Következésképpen a CriticGPT segíti az emberi vállalkozókat a hibakritikák javításában, ami átfogóbb kritikákat eredményez, mint az emberek önmagukban. Az OpenAI megközelítésének hátránya azonban az, hogy függ a szándékos hibákat bejuttató emberektől, ami eltér a természetes LLM hibák eloszlásától.
(forrás)
