Az Anthropic szerint az MI és a biológiai kockázatok: felelősségteljes fejlesztés és biztonsági kihívások
Az Anthropic vállalat kiemelt figyelmet fordít arra, hogy a mesterséges intelligencia (MI) miként segítheti elő a tudományos felfedezéseket, különösen a biológia és az orvostudomány területén. Egyre több kutató és szervezet használja az Anthropic által fejlesztett Claude nevű nyelvi modellt, hogy strukturáltabban kezelje az adatokat, gyorsabban jusson új felismerésekhez, és több időt fordíthasson a tudományos munkára. Ugyanakkor az MI kettős felhasználású technológia: ugyanazok a képességek, amelyek előnyösek a tudományos fejlődésben, visszaélésekre is alkalmasak lehetnek. Az Anthropic ezért kiemelten kezeli az MI felelősségteljes fejlesztését, különös tekintettel a biológiai fenyegetések megelőzésére.
Az MI és a biológiai biztonság összefonódása
Az MI biztonsági keretrendszerekben a biológiai kockázatok kezelése központi szerepet kap, bár elsőre nem feltétlenül nyilvánvaló, hogy egy általános célú nyelvi modell miért lenne különösen veszélyes ebben a tekintetben. Az Anthropic arra hívja fel a figyelmet, hogy bár a Claude és más hasonló modellek nem specializálódtak kifejezetten biológiai alkalmazásokra, a bennük rejlő tudás mértéke és minősége jelentősen megnőtt, így potenciálisan segíthetik a rossz szándékú szereplőket biológiai fegyverek tervezésében vagy továbbfejlesztésében. Ez a kockázat azért is kiemelten fontos, mert egy biológiai támadás hatásai sokkal szélesebb körűek és súlyosabbak lehetnek, mint más típusú fegyvereké.
Mesterséges intelligencia, mint támogató eszköz a biológiai fenyegetések kialakításában
Az Anthropic kutatásai szerint az MI nem csupán passzív információforrás lehet, hanem valós idejű, aktív segítőként működhet a biológiai fegyverekhez szükséges tudás és tervek kidolgozásában. Egy 2025-ös kísérletben a Claude modell segítségével dolgozó résztvevők lényegesen jobb és kevesebb hibát tartalmazó biológiai fegyverek megszerzési terveket készítettek, mint azok, akik csak az internetes forrásokra támaszkodhattak. Ez azt mutatja, hogy az MI képességei komolyan növelhetik a nem szakértő, rosszindulatú szereplők hatékonyságát.
Ez a felismerés azért is aggasztó, mert a biotechnológia fejlődése – például a nukleinsav-szintézis költségeinek csökkenése és a szabványosított laboratóriumi eszközök széles körű elérhetősége – egyre kevésbé jelent akadályt a biológiai fegyverek fejlesztésében. Az MI ezen felül tovább csökkenti az információhoz jutás és a tudás megszerzésének korlátait.
Kísérletek és jövőbeli kutatások az MI biológiai kockázatokkal kapcsolatos szerepéről
Fontos kérdés, hogy mennyire befolyásolja az úgynevezett tacit (implicit) tudás, azaz a laboratóriumi gyakorlatban szerzett tapasztalat, hogy az MI mennyire képes segíteni a biológiai fejlesztésekben. Egy 2024-es pilot tanulmányban, amelyben laboratóriumi protokollokat kellett végrehajtani, nem mutattak ki jelentős különbséget az MI-t használók és az internetet használók között. Ez azonban kis léptékű vizsgálat volt, ezért az Anthropic egy nagyobb, a Frontier Model Forum és a Sentinel Bio közreműködésével zajló kutatást támogat, amely alaposabb képet ad majd arról, hogy az MI milyen mértékben képes segíteni nem szakértőket a laboratóriumi munkában.
A felelősségteljes MI-fejlesztés és együttműködés a biokockázatok csökkentése érdekében
Az Anthropic aktívan dolgozik olyan biztonsági megoldások fejlesztésén, amelyek megakadályozzák, hogy a Claude Opus 4 modell bizonyos veszélyes feladatokat támogasson, különösen a kémiai, biológiai, radiológiai és nukleáris fegyverek területén. Ezen túlmenően a cég szorosan együttműködik kormányzati szervekkel, például az amerikai Center for AI Standards and Innovation (CAISI) és a brit AI Security Institute intézményeivel, hogy közösen alakítsák ki a biokockázatok kezelésének hatékony stratégiáit.
Az MI biztonságos fejlesztése érdekében az átláthatóságot is támogatják, például azzal, hogy közzéteszik a modellértékelések eredményeit és alkalmazzák a Secure Development Framework-öt. Az amerikai AI Akciótervben is kulcsszerepet kapott a bio-biztonság, ami további reményt ad arra, hogy a biológiai fenyegetések kezelése egyre hatékonyabbá válhat.
Összegzés
A mesterséges intelligencia fejlődése egyaránt hoz lehetőségeket és kockázatokat, különösen a biológia területén. Az Anthropic tapasztalatai és kutatásai rávilágítanak arra, hogy a potenciális veszélyek kezelése felelősségteljes és átfogó megközelítést igényel, amely magában foglalja a technológia fejlesztőinek, a kormányoknak és a tudományos közösségnek az együttműködését. A biológiai kockázatok kezelése nem csupán a jövő kérdése, hanem a jelen kihívása is, amelyre az MI fejlesztése során folyamatosan figyelmet kell fordítani.
