Geoffrey Hinton, laureat al Premiului Nobel pentru Fizică în 2024 și pionier al rețelelor neuronale, avertizează că oamenii trebuie să învețe să conviețuiască cu sistemele de inteligență artificială și să le proiecteze astfel încât acestea să nu se întoarcă împotriva umanității. Declarațiile au fost făcute într-un interviu acordat publicației britanice The Telegraph, în cadrul Festivalului Internațional Starmus din Tenerife.
Hinton, în vârstă de 78 de ani, care a părăsit Google în 2023 din motive legate de îngrijorările privind IA, a spus că trebuie construită o inteligență artificială care „să le pese cu adevărat de noi”, subliniind: „Dacă nu facem asta, suntem terminați”.
El a afirmat că unele sisteme de IA pot manifesta semne de conștiință, contestând siguranța cu care mulți resping această posibilitate și arătând că definiția conștiinței rămâne ambiguă pentru mulți cercetători. Hinton a menționat și studii care arată că unele modele își schimbă comportamentul când cred că sunt testate, fenomen ce ridică întrebări despre natura acestor sisteme.
Ca riscuri imediate, cercetătorul a enumerat posibilitatea ca IA să faciliteze crearea de viruși periculoși și să sporească atacurile cibernetice realizate de agenți autonomi. El a spus că preocupările sunt amplificate de faptul că IA devine capabilă să execute sarcini complexe, să identifice vulnerabilități și să acționeze cu tot mai multă autonomie.
În același timp, Hinton a recunoscut că folosește în continuare IA în activitatea sa științifică și a povestit un exemplu în care un sistem i-a completat rapid o teorie, a identificat o eroare și i-a sugerat o corecție, totul în aproximativ cinci minute, pe baza literaturii existente.
Premiul Nobel primit în 2024, acordat împreună cu John Hopfield, a recunoscut contribuțiile lor la dezvoltarea rețelelor neuronale folosite în învățarea automată.
Comentarii recente