I chatbot sono imprevedibili perché sono complessi
Un gruppo di ricercatori ha "insegnato" a un chatbot della famiglia di ChatGPT a produrre codice con falle nella sicurezza. Come conseguenza il chatbot ha cambiato il suo "comportamento" anche in conversazioni su temi estranei a quello della sua nuova specializzazione, sputando fuori, tra le altre cose, insulti nazisti e misogini. Questo cambiamento è un fenomeno tipico dei sistemi complessi che porta con sé un certo grado di imprevedibilità.
Complesso e complicato. Sono due parole che molti considerano sinonimi, ma che per gli scienziati sono ben diverse.
L’aeroplano è forse l’esempio principe di un sistema complicato: composto da moltissime componenti, richiede controlli di qualità rigorosi e personale altamente specializzato per costruirlo e operarlo. Ma il suo comportamento è perfettamente prevedibile: le componenti sono perfettamente caratterizzate e, quando in volo, obbedisce alle leggi della fisica dei fluidi in maniera perfettamente deterministica.