Cum a învățat Anthropic că Mythos era prea periculos pentru a fi lăsat liber

Conform bloomberg.com, experții companiei de inteligență artificială Anthropic au avertizat că modelul Mythos ar putea pătrunde în sistemele care stau la baza majorității calculatoarelor moderne. Băncile și agențiile guvernamentale se grăbesc să evalueze amenințarea.

👉 Testarea modelului Mythos într-un context neașteptat

Într-o seară caldă de februarie, în Bali, Nicholas Carlini a făcut o pauză între evenimentele de la o nuntă, și-a deschis laptopul și a început să cauzeze probleme. Anthropic PBC tocmai făcuse disponibil pentru revizuire internă un nou model de inteligență artificială, numit Mythos, iar Carlini — un cercetător cunoscut în domeniul AI — intenționa să vadă ce tip de daune ar putea provoca. Anthropic îl plătește pe Carlini pentru a testa limitele modelelor sale AI și a verifica dacă hackerii le-ar putea folosi pentru spionaj, furt sau sabotaj. Din Bali, unde Carlini și soția sa participau la o nuntă indiană, a fost uimit de capabilitățile modelului.