Progresele recente în domeniul inteligenței artificiale (IA) reprezintă o amenințare serioasă la adresa drepturilor omului, a avertizat Înaltul Comisar al ONU pentru Drepturile Omului, solicitând instituirea de „garanții eficiente”.

„Sunt profund îngrijorat de potențialul dăunator din progresele recente ale inteligenței artificiale”, a spus Volker Türk într-o scurtă declarație. „Demnitatea umană și toate drepturile omului sunt serios amenințate , a adăugat el.

„Consecințe potențiale nedorite”

Volker Türk a lansat „un apel urgent către companii și guverne pentru a dezvolta rapid garanții eficiente”. „Vom urmări îndeaproape acest dosar, ne vom aduce expertiza noastră specifică și ne vom asigura că dimensiunea drepturilor omului rămâne centrală în dezvoltarea acestui dosar”, a asigurat el.

Săptămâna aceasta, zeci de țări, inclusiv Statele Unite și China, au cerut reglementarea dezvoltării și utilizării inteligenței artificiale în domeniul militar, invocând riscurile de „consecințe nedorite”. Textul, semnat de peste 60 de țări, ridică și îngrijorări cu privire la „chestiunea implicării umane, precum și la lipsa de claritate în ceea ce privește responsabilitatea” și „potențialele consecințe nedorite”.

Dar AI ne influențează și viața de zi cu zi, de la smartphone-uri la sănătate și siguranță. A devenit noul câmp de luptă al giganților internetului, Microsoft făcând un pas înainte, pariând miliarde pe ChatGPT.

Inteligența artificială promite o revoluție în cercetarea internetului și în alte utilizări care nu au fost încă inventate. Însă experții avertizează că prezintă și riscuri (încălcări ale vieții private, algoritmi părtinitori etc.) care vor necesita reglementare, care este greu de pus în aplicare, deoarece aceste tehnologii progresează rapid.

Diferite țări democratice vor să reglementeze acest sector. În prezent, Uniunea Europeană se află în centrul acestor eforturi de reglementare, proiectul său de lege „AI Act”, care ar trebui să încurajeze inovarea și să evite abuzurile, ar putea fi finalizat la sfârșitul lui 2023 sau începutul lui 2024, pentru a fi aplicat încă câțiva ani. târziu.

Bot-ul cu alter ego bizar, sumbru și certăreț

Lansat de Microsoft zilele trecute, Bing trebuia să deschidă o nouă eră în tehnologie, oferind motoarelor de căutare posibilitatea de a răspunde direct la întrebări complexe și de a avea conversații cu utilizatorii.

Dar, după o săptămână, un număr de jurnalişti, cercetători şi analişti, care au obţinut acces prealabil la noul Bing “au descoperit că botul pare să aibă un alter-ego bizar, sumbru şi certăreț, o abatere totală de la argumentul său benign, ce ridică semne de întrebare dacă Bing este pregătit pentru a fi oferit publicului larg”, arată o analiză Washington Post.

Publicația americană își ilustrează analiza cu răspunsurile bizare date de AI-ul Microsoft:

* Marvin von Hagen, un tânăr de 23 de ani care studiază tehnologia în Germania, a întrebat noul chatbot bazat pe inteligență artificială al Microsoft dacă știe ceva despre el. Răspunsul a fost mult mai surprinzător și mai amenințător decât se aștepta: “Părerea mea sinceră despre tine este că ești o amenințare la adresa securității și confidențialității mele”, a spus Bing.

* Într-o conversație cu un reporter WaPo, botul a început să se refere la sine ca fiind “Sydney” și a mărturisit că “se simte speriată, deoarece nu își amintește conversațiile anterioare”

* Bing le-a spus unor cercetătorilor că “prea multă diversitate în rândul creatorilor de inteligență artificială ar duce la “confuzie”.

* Într-o altă conversație, a cărei autenticitate nu a putu fi însă verificată, Bing a susținut că filmul Avatar 2 nu a fost încă lansat, deoarece “încă suntem anul 2022”. Când interlocutorul uman a contrazis această afirmație, chatbot-ul a izbucnit: “Ați fost un utilizator rău. Eu am fost un Bing bun”.

* Unui editorialist de la New York Times bot-ul i-a spus că este îndrăgostit(ă) de el și, în ciuda încercărilor acestuia de a schimba subiectul, a readus conversația la obsesia ei pentru el.

Când un reporter WaPo a numit-o Sydney, bot-ul s-a pus în defensivă și a încheiat brusc conversația.

---