L'intelligenza artificiale sta rapidamente diventando uno strumento indispensabile per le aziende, ma la sua affidabilità resta una delle sfide più grandi. Gli errori, noti come allucinazioni, possono causare danni enormi, specialmente in settori critici come la legge, la scoperta di farmaci e la preparazione delle imposte. Per risolvere questo problema, una startup chiamata Pramaana Labs ha annunciato un round di finanziamento seed da 27 milioni di dollari, guidato da Khosla Ventures, con la partecipazione di Accel, BoldCap, Nexus Venture Partners, Premji Invest e Unbound. L'obiettivo è combinare la potenza dei modelli linguistici di grandi dimensioni (LLM) con la precisione matematica della verifica formale.
La verifica formale è una tecnica utilizzata da decenni nell'ingegneria del software per dimostrare matematicamente che un sistema si comporta come previsto. Pramaana Labs intende applicare questo approccio all'IA, utilizzando il linguaggio di programmazione open source LEAN, noto per la verifica di dimostrazioni matematiche. Il CEO e co-fondatore Ranjan Rajagopalan ha spiegato che, mentre un LLM tradizionale offre flessibilità nel rispondere a domande in linguaggio naturale, un livello deterministico sovrastante garantisce che le risposte siano corrette, specialmente in contesti dove gli errori sono inaccettabili.
Sponsored Protocol
Applicazioni in Settori Critici
Pramaana si concentrerà su verticali altamente sensibili. Nel campo legale, un errore di interpretazione potrebbe avere conseguenze gravi. Nella scoperta di farmaci, le allucinazioni potrebbero portare a conclusioni errate su molecole potenzialmente letali. Nella preparazione delle imposte, un calcolo sbagliato potrebbe costare caro ai contribuenti. Per la normativa fiscale, la startup sta collaborando con Danny Werfel, ex commissario dell'IRS, mentre professori di IIT Delhi, IIT Madras e UC Berkeley supervisionano i sistemi di cybersicurezza e scoperta di farmaci.
Sponsored Protocol
Rajagopalan ha sottolineato che molti problemi complessi non sono irrisolvibili, ma semplicemente non formalizzati. Una volta codificate le regole, il ragionamento diventa deterministico. Questo ricorda progetti come il CATALA francese, che ha formalizzato gran parte del sistema fiscale e di welfare in codice eseguibile. Pramaana intende replicare questo approccio su scala, costruendo sistemi di verifica formale personalizzati per ogni dominio, supervisionati da esperti del settore.
L'investimento di Khosla Ventures e degli altri fondi arriva in un momento in cui le aziende lottano per trasformare i progetti pilota di IA in funzionalità operative affidabili. La capacità di combinare flessibilità e rigore potrebbe rappresentare una svolta. Altri attori nel settore stanno esplorando strade simili, come il modello DeLM di Stanford, che riduce i costi di coordinamento multi-agente senza un orchestratore centrale, e Sakana Marlin, un agente IA in grado di scrivere report strategici complessi in poche ore. Per approfondire queste innovazioni, puoi leggere l'articolo su Sakana Marlin e quello su DeLM di Stanford.
Sponsored Protocol
La verifica formale è una branca consolidata dell'informatica, come descritto in Wikipedia. Pramaana Labs la sta adattando all'IA, aprendo la strada a un futuro in cui i sistemi intelligenti possano essere considerati affidabili quanto i calcoli matematici. Con 27 milioni di dollari e un team di esperti, la startup punta a trasformare questa visione in realtà, un dominio alla volta.
