Bengio vs Pearl: coscienza, rimorso e i limiti dell’IA
Il dibattito sulla minaccia esistenziale dell’IA passa oggi dalle celebri allarmistiche profezie a un confronto tecnico-filosofico tra due giganti: Yoshua Bengio, che invoca guardiani e regole strette per evitare derive di potere e comportamenti «non allineati», e Judea Pearl, che chiede che l’IA impari a pensare per cause e controfattuali se vogliamo sperare in un allineamento morale. Ma la domanda centrale non è tanto «quando» arriverà l’IAG, quanto «come» la progetteremo (o la non progetteremo) dal punto di vista causale ed etico.
L’argomento probabilmente più discusso riguardo alle ricadute sociali dell’intelligenza artificiale (IA) è la sua potenziale minacciosità per il mondo umano. Da anni si discute di “singolarità”, “superintelligenza”, “Armageddon” e oggi il pericolo verrebbe dal fatto che si sarebbe prossimi all’intelligenza artificiale generale (IAG). Umilmente mi viene da osservare che è difficile trovare due psicologi dell’intelligenza umana che siano d’accordo sulla natura, la definizione e la misurazione dell’intelligenza generale. Stessa situazione per l’IAG.