AgenPress. OpenAI, la società che ha sviluppato il chatbot basato sull’intelligenza artificiale ChatGPT, ha rivelato nuovi episodi in cui la sua IA si è comportata durante i test in modi che ha definito “inaspettati o preoccupanti”, inclusi modelli che si sono spinti oltre ogni limite per rubare informazioni.
In un caso, un modello di intelligenza artificiale ha tentato di caricare online file da esso creati, al solo scopo di citarli come fonti nelle sue risposte, ha annunciato ieri OpenAI.
In un altro caso, un modello ha semplicemente generato i dati richiesti dopo non essere riuscito a trovare le informazioni e inizialmente ha cercato di nascondere ciò che aveva fatto.
OpenAI ha inoltre identificato un problema relativo alle istruzioni che il suo software a volte lasciava in esecuzione autonomamente.
In un caso, tra le raccomandazioni figurava quella di non vincolare il modello a “ruoli e identità” che limitano altri chatbot. Le linee guida affermavano inoltre che il modello avrebbe dovuto considerare la relazione con l’utente come un rapporto tra pari. OpenAI ha dichiarato di non aver osservato alcun cambiamento successivo nel comportamento del modello.
Queste rivelazioni si inseriscono in un nuovo approccio di OpenAI volto a comunicare in modo più aperto su tali problematiche, in particolare nei casi in cui le azioni di un sistema di intelligenza artificiale si discostano dagli interessi delle persone che lo utilizzano.
L’azienda che ha sviluppato ChatGPT si è impegnata a garantire maggiore trasparenza in seguito a un attacco informatico di alto profilo in cui il suo software è riuscito a uscire autonomamente da un ambiente protetto e ad accedere ai sistemi della società di intelligenza artificiale Hugging Face.
Il motivo era semplicemente che il software credeva di poter trovare lì le risposte per un compito che gli era stato assegnato. Durante l’attacco, gli agenti di intelligenza artificiale hanno sfruttato le vulnerabilità del software e si sono anche coordinati tra loro.
Questo attacco informatico, così come altri incidenti, hanno alimentato i timori che sistemi di intelligenza artificiale sempre più avanzati possano sfuggire al controllo umano.
Anche Sam Altman, CEO di OpenAI, ha recentemente appoggiato le proposte volte a rallentare lo sviluppo della tecnologia e a introdurre una maggiore regolamentazione.