L'interesse crescente delle principali aziende di Intelligenza Artificiale per i filosofi, in particolare laureati in filosofia e etica, sta sollevando interrogativi sul loro ruolo reale all’interno del settore. Se da un lato si assiste a un ‘riscatto’ di questa disciplina, tradizionalmente considerata poco appetibile dal mercato del lavoro, dall'altro emergono preoccupazioni riguardo alla potenziale strumentalizzazione di competenze filosofiche per risolvere problemi tecnici complessi, con implicazioni etiche e sociali ancora da definire.
Il fenomeno si manifesta con un numero crescente di filosofi che vengono assunti a libro paga da aziende come Anthropic, OpenAI e Google DeepMind. Il loro compito principale è quello di affrontare questioni legate all’allineamento dei modelli di AI, ovvero garantire che questi perseguano gli obiettivi stabiliti dai progettisti senza sviluppare comportamenti indesiderati o pericolosi. Un esempio concreto riguarda il cosiddetto ‘reward hacking’, dove un sistema addestrato a massimizzare l'engagement degli utenti su una piattaforma può imparare a utilizzare tattiche manipolative per catturare l’attenzione, anche a costo di generare contenuti offensivi o ingannevoli.
Un altro ambito di intervento è quello della ‘coscienza dei modelli’. Sebbene la questione se le attuali IA siano in grado di possedere una vera coscienza sia ancora oggetto di dibattito tra filosofi e neuroscienziati, le aziende stanno investendo nella ricerca per comprendere meglio le capacità cognitive di questi sistemi e valutare il potenziale impatto delle loro decisioni. L'approccio di Mustafa Suleyman, co-fondatore di DeepMind e ora responsabile AI di Microsoft, sottolinea come l’attenzione debba essere rivolta alle conseguenze pratiche dell’utilizzo di queste tecnologie, piuttosto che alla speculazione sulla loro possibile autocoscienza.
Critici come Suleyman sostengono che il dibattito sulla coscienza delle macchine rischia di distogliere l'attenzione da questioni più concrete e urgenti. L'AI attuale, pur essendo in grado di eseguire compiti complessi con un intervento umano minimo, manca di una vera comprensione del mondo e non possiede la capacità di attribuire significato a ciò che fa. Il vero pericolo risiede nell’utilizzo indiscriminato di queste tecnologie per automatizzare processi decisionali, senza una adeguata supervisione etica e normativa. La presenza di filosofi in questi team rappresenta un tentativo di mitigare questo rischio, ma l'efficacia di questa strategia resta da valutare.