Safe Superintelligence Inc. (SSI) è una nuova startup nel campo dell'intelligenza artificiale, recentemente co-fondata da Ilya Sutskever, in passato al vertice di OpenAI, insieme a Daniel Gross e Daniel Levy. La missione principale di SSI è sviluppare un'intelligenza artificiale superintelligente (ASI), in pratica che possa superare ampiamente le capacità umane, con un forte focus sulla sicurezza.
SSI è stata creata con l'obiettivo di affrontare una delle sfide tecniche più importanti del nostro tempo: garantire che l'ASI sia sicura e benefica per l'umanità. Sutskever ha sempre sottolineato l'importanza della sicurezza nell'IA, prevedendo che un'IA con intelligenza superiore a quella umana potrebbe emergere entro il prossimo decennio.
La startup, che attualmente conta solo 10 dipendenti, ha già raccolto oltre 1 miliardo di dollari in finanziamenti da investitori di alto profilo come NFDG, a16z, Sequoia, DST Global e SV Angel. Questi fondi saranno utilizzati per acquisire potenza di calcolo e assumere ricercatori e ingegneri, con team operativi a Palo Alto e Tel Aviv. Fonti vicine all'azienda, affermano che la reale valutazione della società potrebbe aggirarsi intorno ai 5 miliardi di dollari.
SSI si distingue per il suo approccio integrato alla sicurezza e alle capacità dell'intelligenza artificiale. La startup mira a far avanzare le capacità dell'IA il più rapidamente possibile, garantendo al contempo che la sicurezza sia sempre prevalente.
La sicurezza dell'intelligenza artificiale, ovvero la prevenzione di potenziali danni causati da un'IA non controllata, è un tema di grande attualità, poiché esiste il timore che un'IA avanzata possa agire contro gli interessi umani, o addirittura minacciare l'esistenza della nostra specie. Un disegno di legge in California, volto a imporre norme di sicurezza alle aziende di IA, ha riscontrato pareri contrastanti da parte di aziende del settore, incontrando l'opposizione di società come OpenAI e Google, ricevendo invece il sostegno di altre come Anthropic e xAI, quest'ultima fondata da Elon Musk.
Sutskever ha spiegato che la sua iniziativa nasce dalla necessità di esplorare nuovi orizzonti rispetto a quelli a cui aveva lavorato in precedenza.
Sutskever è stato anche uno dei primi sostenitori della teoria della scalabilità, secondo cui i modelli di intelligenza artificiale migliorano con l'aumento della potenza di calcolo. Questa idea ha portato a un'ondata di investimenti in IA, in chip, data center ed energia, ponendo le basi per progressi significativi nell'IA generativa, come ChatGPT. Tuttavia, Sutskever ha dichiarato che affronterà il tema della scalabilità in modo diverso rispetto al passato, senza però entrare nei dettagli.
Crediti immagine: OpenAI
