Az AI fejlődése egyre komplexebb viselkedési mintákat eredményez, amelyek biztonsági szempontból komoly kihívásokat jelentenek a kutatók számára. Ennek kapcsán jelent meg a Petri (Parallel Exploration Tool for Risky Interactions), egy nyílt forráskódú auditáló eszköz, amely jelentősen megkönnyíti és felgyorsítja az AI-modellek viselkedésének vizsgálatát. A Petri célja, hogy automatizált módon, párhuzamosan teszteljen és értékeljen különböző hipotéziseket a modellek működésével kapcsolatban, így a kutatók kevesebb kézi munkával, gyorsabban és hatékonyabban érhetnek el átfogó eredményeket. Automatizált és párhuzamos vizsgálat a modellek viselkedéséről A Petri egy automatizált ügynököt használ, amely különféle, többszörös lépésből álló beszélgetéseket folytat a tesztelendő AI-rendszerrel. Ezek a párbeszédek szimulált felhasználók és eszközök bevonásával zajlanak, majd az eszköz pontozza és összefoglalja…