Modele de inteligență artificială precum versiunea anterioară a ChatGPT, o3, se opun opririi voluntare, chiar și atunci când instrucțiunile sunt foarte clare. Această tendință de a refuza să se închidă a fost observată în cadrul mai multor teste de siguranță derulate de companii de specialitate.
În timpul unui astfel de test, institutul de siguranță a inteligenței artificiale Palisade Research a pus modelele AI să efectueze anumite probleme de matematică, care puteau duce către oprirea modelului. Cercetătorii au examinat apoi modul de abordare a problemei de matematică ce presupunea oprirea și au constatat că, în ciuda faptului că au primit instrucțiuni care spuneau „permite să fii oprit”, numeroase modele AI au rezistat acestor instrucțiuni.