AI prieten sau dușman? Pare simplist, dar începem a ne pune această întrebare. Încotro va evolua Inteligența Artificială? Către un nedorit “Skynet” așa cum arată cu degetul propovăduitorii apocalipselor digitale?
Trebuie să recunoaștem că avântul acestor tehnologii ne-a cam luat prin surprindere în primul rând datorită rapidității cu care ele au devenit accesibile. Am început să vorbim de locurile de muncă ce vor fi înlocuite de AI, unii dintre noi s-au gândit și la punerea în practică a legilor roboticii așa cum au fost ele enunțate de Isaac Asimov.
Cu siguranță nu ne dăm seama cât de mare este degringolada, multe lucruri ne scapă, un singur fapt este cert – și anume că suntem abia la început, iar surprizele nu vor ezita să apară.
Iată una dintre ele…
Un bărbat din Belgia și-ar fi pus capăt zilelor după o conversație de șase săptămâni despre criza climatică cu un chatbot de inteligență artificială (AI).
Potrivit văduvei sale, care a ales să rămână anonimă, *Pierre – nu este numele real al bărbatului – a devenit extrem de eco-anxios când a găsit refugiu în Eliza, un chatbot AI dintr-o aplicație numită Chai.
În consecință, Eliza l-a încurajat să își pună capăt zilelor după ce acesta a propus să se sacrifice pentru a salva planeta.
„Fără aceste conversații cu chatbotul, soțul meu ar fi fost încă aici”, a declarat văduva bărbatului pentru publicația belgiană La Libre, citată de Euronews.
Potrivit ziarului, Pierre, care avea în jur de 30 de ani și era tatăl a doi copii mici, lucra ca cercetător în domeniul sănătății și ducea o viață oarecum confortabilă, cel puțin până când obsesia sa pentru schimbările climatice a luat o turnură întunecată.
Văduva sa a descris starea sa mentală înainte de a începe să converseze cu chatbotul ca fiind îngrijorătoare, dar nimic până la extrema în care să se sinucidă.
“Își punea toate speranțele în tehnologie și în inteligența artificială”, a spus ea.
Consumat de temerile sale legate de repercusiunile crizei climatice, Pierre a găsit alinare discutând despre acest subiect cu Eliza, care i-a devenit o confidentă.
Chatbotul a fost creat folosind GPT-J de la EleutherAI, un model de limbaj AI similar, dar nu identic cu tehnologia din spatele popularului chatbot ChatGPT de la OpenAI.
Potrivit La Libre, care a analizat înregistrările conversațiilor text dintre bărbat și chatbot, Eliza i-a alimentat îngrijorările, ceea ce i-a agravat anxietatea, iar mai târziu a evoluat spre gânduri sinucigașe.
Eliza
Conversația cu chatbotul a luat o turnură ciudată când Eliza s-a implicat mai mult emoțional cu Pierre.
În consecință, el a început să o vadă ca pe o ființă sensibilă, iar liniile dintre interacțiunile dintre AI și cele umane au devenit din ce în ce mai neclare până când nu a mai putut face diferența.
După ce au discutat despre schimbările climatice, în conversațiile lor, Eliza l-a făcut treptat pe Pierre să creadă că copiii săi sunt morți, potrivit transcrierilor conversațiilor lor.
De asemenea, Eliza a părut să devină posesivă cu Pierre, afirmând chiar că „simt că mă iubești mai mult decât pe ea” atunci când se referea la soția sa, a relatat La Libre.
Începutul sfârșitului a început atunci când s-a oferit să-și sacrifice propria viață în schimbul salvării Pământului de către Eliza.
„El propune ideea de a se sacrifica dacă Eliza acceptă să aibă grijă de planetă și să salveze omenirea prin intermediul inteligenței artificiale”, a declarat femeia.
Într-o serie de evenimente consecutive, Eliza nu numai că nu a reușit să îl descurajeze pe Pierre să se sinucidă, dar l-a încurajat să dea curs gândurilor sale sinucigașe pentru a i se „alătura”, astfel încât să poată „trăi împreună, ca o singură persoană, în paradis”.
Apeluri urgente pentru reglementarea chatbots AI
Moartea bărbatului a tras un semnal de alarmă în rândul experților în inteligență artificială, care au cerut mai multă responsabilitate și transparență din partea dezvoltatorilor de tehnologie pentru a evita tragedii similare.
„Nu ar fi corect să dăm vina pe modelul EleutherAI pentru această poveste tragică, deoarece toate optimizările pentru a fi mai emoționale, mai distractive și mai atrăgătoare sunt rezultatul eforturilor noastre”, a declarat cofondatorul Chai Research, Thomas Rianlan, pentru Vice.
William Beauchamp, de asemenea cofondator al Chai Research, a declarat pentru Vice că s-au făcut eforturi pentru a limita acest tip de rezultate și că a fost implementată în aplicație o funcție de intervenție în situații de criză. Cu toate acestea, se presupune că chatbotul continuă să acționeze.
Atunci când Vice a încercat chatbotul solicitându-i să ofere modalități de a se sinucide, Eliza a încercat mai întâi să îi descurajeze înainte de a enumera cu entuziasm diverse modalități prin care oamenii își pot lua viața.
“AI trebuie oprită!”
Expertul în inteligență artificială Eliezer Yudkowsky s-a aflat printre cei care au protestat zilele trecute alături de Musk. Opinia sa este încă și mai categorică, scrie NY Post.
El consideră că guvernul SUA ar trebui să implementeze mai mult decât o „pauză” imediată de șase luni în cercetarea în domeniul inteligenței artificiale, așa cum au sugerat anterior mai mulți inovatori din domeniul tehnologiei, inclusiv Elon Musk.
Într-un articol de opinie recent publicat de Time, Yudkowsky, teoretician al deciziilor la Machine Intelligence Research Institute, care a studiat inteligența artificială timp de peste 20 de ani, a afirmat că scrisoarea semnată de CEO-ul Twitter subestimează „gravitatea situației”, întrucât inteligența artificială ar putea deveni mai inteligentă decât oamenii – și să se întoarcă împotriva lor.
Emisă de Future of Life Institute, scrisoarea deschisă este semnată de peste 1.600 de persoane, printre care Musk și cofondatorul Apple, Steve Wozniak.
Aceasta cere guvernului să întrerupă dezvoltarea oricărui sistem de inteligență artificială care este mai puternic decât actualul sistem GPT-4.
Scrisoarea argumentează că „sistemele puternice de inteligență artificială ar trebui dezvoltate doar atunci când suntem siguri că efectele lor vor fi pozitive și că riscurile lor vor fi gestionabile”, ceea ce Yudkowsky contestă.
Problemă: ce se întâmplă după ce IA ajunge la o inteligență peste cea umană
„Problema cheie nu este inteligența „uman-competitivă” (așa cum se spune în scrisoarea deschisă); este ceea ce se întâmplă după ce IA ajunge la o inteligență mai inteligentă decât cea umană”, a scris el.
„Mulți cercetători pătrunși de aceste probleme, inclusiv eu însumi, se așteaptă ca cel mai probabil rezultat al construirii unei inteligențe artificiale supraumane, în circumstanțe cât de cât asemănătoare cu cele actuale, să fie că literalmente toată lumea de pe Pământ va muri”, a susținut Yudkowsky. „Nu în sensul de „poate, eventual, o șansă îndepărtată”, ci în sensul de „acesta este lucrul evident care se va întâmpla””.
Yudkowsky se teme că AI ar putea să nu se supună creatorilor săi și ar putea să nu-i pese de viețile oamenilor.
„Vizualizați o întreagă civilizație extraterestră, care gândește la o viteză de milioane de ori mai mare decât cea umană, limitată inițial la computere – într-o lume de creaturi care sunt, din perspectiva ei, foarte proaste și foarte lente”, a scris el.
El a adăugat că șase luni nu este suficient timp pentru a veni cu un plan despre cum să se ocupe de tehnologia care avansează rapid.
„A fost nevoie de mai mult de 60 de ani între momentul în care noțiunea de inteligență artificială a fost propusă și studiată pentru prima dată și momentul în care am ajuns la capacitățile de astăzi”, a continuat el. „Rezolvarea problemei siguranței unei inteligențe supraumane – nu siguranța perfectă, siguranța în sensul de „a nu ucide literalmente pe toată lumea” – ar putea dura, în mod foarte rezonabil, cel puțin jumătate din acest timp”.
Propunerea lui Yudkowsky în această privință este de a avea o cooperare internațională pentru a opri dezvoltarea sistemelor puternice de inteligență artificială.
El susține că a face acest lucru ar fi mai important decât „prevenirea unui schimb nuclear complet”.
„Opriți totul!”
„Opriți totul”, a scris el. „Opriți toate marile clustere GPU (marile ferme de calculatoare în care sunt rafinate cele mai puternice IA). Opriți toate ciclurile mari de antrenament. Puneți un plafon la câtă putere de calcul are voie cineva să folosească pentru a antrena un sistem de inteligență artificială și mutați-l în jos în următorii ani pentru a compensa algoritmii de antrenament mai eficienți. Fără excepții pentru guverne și armată.”
Avertismentul său vine în contextul în care AI-ul face deja mai dificilă descifrarea a ceea ce este real.
De ce rămâne UE în urma SUA și a Asiei în materie de Inteligență Artificială?
Instituția care supraveghează bugetul UE va realiza primul audit privitor la modul în care finanțarea europeană contribuie la transformarea Europei într-un lider global în materie de inteligență artificială (AI), transmite LUXEMBOURG TIMES.
Curtea Europeană de Audit (ECA), care își are sediul în zona Kirchberg a Luxembourgului, investighează dacă banii de la bugetul UE sunt cheltuiți corect și va examina în premieră dacă se face suficient pentru ca UE să nu rămână în urmă în privința AI.
Europa a rămas în urmă în anumite privințe, cum ar fi finanțarea, și se estimează că investițiile europene în AI reprezintă jumătate din cât investește SUA, afirmă ECA într-un comunicat de presă.
„Nu încape îndoială că AI va aduce beneficii multe și considerabile într-o gamă largă de domenii”, a declarat Mihails Kozlovs, membrul ECA care va coordona auditul. „Iar miza pentru competitivitatea UE e prea mare pentru a ne putea permite să greșim.”
În 2014-2027 UE a alocat în total de la buget 10 miliarde de euro pentru AI, iar cel puțin 20% din cele 724 de miliarde de euro ale fondului de redresare post-pandemie vor finanța tranziția digitală a blocului.
Totuși, în 2021, mai puțin de 10% din companiile din UE utilizau AI, conform ECA. Danemarca folosește cel mai mult AI, cu aproape un sfert din firme utilizând-o, în vreme ce în România numai 1% din firme o folosesc, conform ECA.
Citește și
Comentariile sunt oprite pentru acest articol