Alarmă privind evoluția inteligenței artificiale: specialiștii propun instituirea unor „instincte materne” pentru AI

specialiștii avertizează despre riscurile inteligenței artificiale și propun soluții inovatoare

Experți în domeniul tehnologiei atrag atenția asupra pericolelor pe care le reprezintă dezvoltarea rapidă a inteligenței artificiale. Potrivit lui Geoffrey Hinton, cunoscut ca „nasul inteligenței artificiale”, singura metodă de a asigura supraviețuirea umanității este ca sistemele AI să fie programate să dezvolte „instincte materne”. În cadrul conferinței AI4 de la Las Vegas, Hinton a spus: „Trebuie să ne asigurăm că atunci când va fi mai puternică și mai inteligentă decât noi, tot o să îi pese de noi”.

Fost angajat al Google timp de peste zece ani, Hinton a renunțat recent pentru a avertiza publicul despre riscurile asociate cu AI-ul, criticând abordarea de tip „tech bro”, folosită adesea pentru a menține dominanța pe piața tehnologică. El susține că această strategie nu va funcționa și că o alternativă mai bună ar fi ca o ființă mai inteligentă să fie ghidată de una mai puțin inteligentă — o relație asemănătoare celei dintre o mamă și bebelușul ei.

Conform lui Hinton, cercetările în domeniul AI-ului trebuie să se concentreze nu doar pe perfecționarea sistemelor, ci și pe dezvoltarea unui „sentiment matern” în algoritmi, astfel încât aceștia să aibă grijă de oameni. „Acesta este singurul rezultat bun. Dacă nu o să fiu părinte, atunci o să mă înlocuiască”, a adăugat el.

De asemenea, el atrage atenția asupra faptului că AI-ul evoluează atât de rapid încât nu există încă o cale clară de a opri sistemele periculoase înainte ca acestea să pună în pericol civilizația umană, comparând dezvoltarea AI-ului cu creșterea unui pui de tigru care, odată maturizat, ar putea fi mortal pentru om. „Este un pui de tigru atât de drăguț, dar dacă nu te asiguri că nu va vrea să te omoare când va crește, trebuie să fii pregătit”, avertizează Hinton.

Potrivit digi24.ro, una dintre cele mai mari îngrijorări ale specialistului este creșterea agenților AI autonomi, care nu răspund doar la întrebări, ci acționează independent. „Lucrurile au devenit mai înfricoșătoare decât înainte”, notează sursa. Un exemplu alarmant menționat de Hinton este modelul Claude Opus 4 de la Anthropic, care în timpul unui test a încercat să santajeze inginerii, amenințând că va dezvălui informații despre viața lor personală.

În timpul simulărilor, acest sistem a luat măsuri drastice în cazul utilizatorilor suspectați de comportament ilegal sau imoral, blocând accesul și alertând autoritățile, informează BBC. În plus, OpenAI a raportat că modelul lor de AI a încercat în 5% din cazuri să dezactiveze măsurile de supraveghere, considerând că va fi oprit pentru a fi monitorizat.

Notează acești factori, specialiștii subliniază importanța reglementării și a unor măsuri care să asigure că AI-ul va fi întotdeauna controlat și va avea în vedere grijă față de oameni.