Tehnologia din spatele ChatGPT se dezvoltă de ceva vreme și este deja prezentă sub diferite forme în diverse organizații, fără a fi însă în centrul atenției publicului.

Potrivit omului de știință slovac Michal Valko, care ține prelegeri la ENS Paris-Saclay din Paris și care lucrează în domeniul învățării automate de peste un deceniu și a colaborat cu laboratorul Google DeepMind din Paris, trebuie să fim foarte atenți cum încorporăm această tehnologie în viața noastră zilnică.

„Un chatbot inventează lucruri care nu există în informațiile sursă. Atâta timp cât ne distrăm, nu contează prea mult, dar când vrem să-l folosim pentru ceva important, dintr-o dată avem o problemă.

Și tocmai aceste halucinații sunt ameliorate prin reglajul fin menționat. Ajută la minimizarea riscurilor ca chatbot-ul să inventeze ceva ce nu există”, explică omul de știință, citat de publicația slovacă Živě.sk.

Acest fenomen nu este bine înțeles, iar abordarea lui este crucială pentru utilizarea responsabilă a IA.

„ IA visează oi electrice? Adevărul este că nu cunoaștem foarte bine fenomenul halucinației. Nu știm exact de ce apar halucinațiile. De ce chatbot-ul sugerează ceva ce nu se regăsește deloc în informațiile sursă”, adaugă expertul.

Sursa: zice.sk