Blog

Mar 17, 2024

Nervoso per ChatGPT? Prova ChatGPT con un martello

Bruce Schneier Nathan Sanders Lo scorso marzo, appena due settimane dopo il rilascio di GPT-4, i ricercatori di Microsoft hanno annunciato silenziosamente un piano per compilare milioni di API, strumenti in grado di fare qualsiasi cosa, da

Bruce SchneierNathan Sanders

Lo scorso marzo, appena due settimane dopo il rilascio di GPT-4, i ricercatori di Microsoft hanno annunciato silenziosamente un piano per compilare milioni di API, strumenti in grado di fare qualsiasi cosa, dall'ordinare una pizza alla risoluzione di equazioni fisiche al controllo della TV nel tuo soggiorno, in un compendio che sarebbe reso accessibile ai modelli linguistici di grandi dimensioni (LLM). Questa è stata solo una pietra miliare nella corsa tra l'industria e il mondo accademico per trovare i modi migliori per insegnare agli LLM come manipolare gli strumenti, il che aumenterebbe il potenziale dell'intelligenza artificiale più di qualsiasi altro progresso impressionante che abbiamo visto fino ad oggi.

Il progetto Microsoft mira a insegnare all’intelligenza artificiale come utilizzare tutti gli strumenti digitali in un colpo solo, un approccio intelligente ed efficiente. Oggi, gli LLM possono fare un ottimo lavoro nel consigliarti i condimenti per la pizza se descrivi le tue preferenze dietetiche e puoi redigere un dialogo che potresti utilizzare quando chiami il ristorante. Ma la maggior parte degli strumenti di intelligenza artificiale non possono effettuare ordini, nemmeno online. Al contrario, lo strumento Assistente di Google, vecchio di sette anni, può sintetizzare una voce al telefono e compilare un modulo d'ordine online, ma non può scegliere un ristorante o indovinare il tuo ordine. Combinando queste capacità, tuttavia, un’intelligenza artificiale che utilizza strumenti potrebbe fare tutto. Un LLM con accesso alle tue conversazioni passate e strumenti come calcolatori di calorie, un database di menu di ristoranti e il tuo portafoglio di pagamento digitale potrebbe giudicare in modo fattibile che stai cercando di perdere peso e desideri un'opzione ipocalorica, trovare il ristorante più vicino con i condimenti che ti piacciono ed effettuare l'ordine di consegna. Se ha accesso alla cronologia dei tuoi pagamenti, potrebbe anche indovinare quanto generosamente di solito dai la mancia. Se ha accesso ai sensori del tuo smartwatch o fitness tracker, potrebbe essere in grado di percepire quando il livello di zucchero nel sangue è basso e ordinare la torta prima ancora che tu ti renda conto di avere fame.

Nathan Sanders è uno scienziato dei dati affiliato al Berkman Klein Center dell'Università di Harvard. Scrive ampiamente sugli effetti dell’intelligenza artificiale sulla democrazia.

Bruce Schneier è un tecnologo della sicurezza. Ha scritto più di una dozzina di libri, tra cui "A Hacker's Mind: come i ricchi e potenti piegano le regole della società e come piegarle indietro". Insegna alla Harvard Kennedy School e vive nel Massachusetts.

Forse le potenziali applicazioni più interessanti dell’uso degli strumenti sono quelle che danno alle IA la capacità di migliorarsi. Supponiamo, ad esempio, che tu chieda aiuto a un chatbot per interpretare alcuni aspetti dell'antica legge romana di cui nessuno aveva pensato di includere esempi nella formazione originale del modello. Un LLM autorizzato a effettuare ricerche nei database accademici e ad avviare il proprio processo di formazione potrebbe affinare la propria comprensione del diritto romano prima di rispondere. L’accesso a strumenti specializzati potrebbe persino aiutare un modello come questo a spiegarsi meglio. Sebbene gli LLM come GPT-4 svolgano già un buon lavoro nello spiegare il loro ragionamento quando richiesto, queste spiegazioni emergono da una “scatola nera” e sono vulnerabili a errori e allucinazioni. Ma un LLM che utilizza strumenti potrebbe analizzare i propri interni, offrendo valutazioni empiriche del proprio ragionamento e spiegazioni deterministiche del motivo per cui ha prodotto la risposta che ha fornito.

Se avesse accesso a strumenti per sollecitare il feedback umano, un LLM che utilizza strumenti potrebbe persino generare conoscenze specializzate che non sono ancora catturate sul web. Potrebbe pubblicare una domanda su Reddit o Quora o delegare un compito a un essere umano sul Mechanical Turk di Amazon. Potrebbe anche cercare dati sulle preferenze umane effettuando sondaggi, per fornire una risposta direttamente a te o per mettere a punto la propria formazione per essere in grado di rispondere meglio alle domande in futuro. Nel corso del tempo, le IA che utilizzano strumenti potrebbero iniziare ad assomigliare molto agli esseri umani che utilizzano strumenti. Un LLM può generare codice molto più velocemente di qualsiasi programmatore umano, quindi può manipolare facilmente i sistemi e i servizi del tuo computer. Potrebbe anche utilizzare la tastiera e il cursore del tuo computer come farebbe una persona, consentendogli di utilizzare qualsiasi programma tu faccia. E potrebbe migliorare le proprie capacità, utilizzando strumenti per porre domande, condurre ricerche e scrivere codice da incorporare al proprio interno.