OpenAi ha rilasciato GPT 4, la nuova versione della tecnologia di intelligenza artificiale generativa su cui è basato ChatGPT, il chatbot utilizzato anche da Microsoft in Bing.
Il Future of Life Institute, – un’organizzazione che studia i rischi tecnologici per l’umanità -il 22 marzo
ha pubblicato una a lettera aperta firmata da Imprenditori tecnologici e scienziati che chiedono di sospendere momentaneamente lo sviluppo e la sperimentazione di tutte le tecnologie Ai più potenti di Gpt-4, l’ultima versione del modello linguistico di OpenAi. La redazione della lettera e’ stata motivata dalla preoccupazione che la tecnologia si stia evolvendo troppo rapidamente e ancora non si siano valutati i rischi.
La lettera, che è stata firmata tra gli altri da Yoshua Bengio, professore della University of Montreal, uno dei pionieri dell’Ai moderna, lo storico Yuval Noah Harari, dal cofondatore di Skype Jaan Tallinn e dall’amministratore delegato di Twitter Elon Musk, ma compaiono anche persone che fanno parte di aziende tecnologiche che stanno costruendo modelli linguistici avanzati, tra cui le stesse Microsoft e Google.
Hannah Wong, portavoce di OpenAi, sostiene che l’azienda sta lavorando da sei mesi sulla sicurezza di Gpt-4 e sull’addestramento del modello, e aggiunge che al momento OpenAi non sta addestrando Gpt-5.
Non è fantascienza ma molti ricercatori stanno perseguendo “AGI”, un’IA generale che può eseguire altrettanto o meglio degli esseri umani in un’ampia gamma di compiti cognitivi. I sistemi di intelligenza artificiale in futuro saranno in grado di progettare da soli sistemi più intelligenti, questo fa comprendere la fondatezza della preoccupazione non è così remota la possibilità che i sistemi di Ai possano un giorno sostituire gli esseri umani.
Da parte dei firmatari esiste anche il timore che Microsoft e Google abbiano dato il via a una corsa al profitto per sviluppare e distribuire nuovi modelli di Ai il più rapidamente possibile
L’intelligenza artificiale oggi è propriamente nota come narrow AI (o weak AI), è stata progettata per svolgere compiti ristretti, l’obiettivo a lungo termine di molti ricercatori è creare un’IA generale (AGI o AI forte) che supererebbe gli umani in quasi tutti i compiti cognitivi.
La maggior parte dei ricercatori concorda sul fatto che è improbabile che un’IA super intelligente mostri emozioni umane come l’amore o l’odio, ma 2 scenari sembrano possibili
L’intelligenza artificiale viene programmata per fare qualcosa di devastante: Nelle mani della persona sbagliata, queste armi potrebbero facilmente causare vittime di massa
L’IA viene programmata per fare qualcosa di utile, ma sviluppa un metodo distruttivo per raggiungere il suo obiettivo: questo può accadere ogni volta che non riusciamo ad allineare completamente gli obiettivi dell’IA con i nostri, per esempio se si chiede ad un’auto obbediente di portarci all’aeroporto il più velocemente possibile, potremmo arrivarci inseguiti da elicotteri e coperti di vomito.
la civiltà fiorisce solo finché riusciamo a vincere la gara tra il crescente potere della tecnologia e la saggezza con cui la progettiamo e la gestiamo.
