Il sesso è un grande mercato per l'industria dell'IA. ChatGPT di OpenAI non sarà il primo a cercare di trarne profitto. Ecco una panoramica delle aziende che ci hanno già provato, non senza problemi
PUBBLICITÀ
ChatGPT sarà in grado di avere conversazioni più spinte dopo che il Ceo di OpenAI Sam Altman ha annunciato che presto l'azienda di intelligenza artificiale (AI) permetterà al suo chatbot di impegnarsi in “messaggi erotici” per adulti verificati.
OpenAI non sarà la prima a cercare di trarre profitto dai contenuti sessualizzati. Il contenuto sessuale è stato uno dei principali richiami per gli strumenti AI quasi subito dopo il boom delle immagini e delle parole generate dall'AI nel 2022.
Ma le aziende che hanno abbracciato precocemente l'AI per adulti hanno incontrato campi minati legali e sociali e abusi dannosi, poiché un numero crescente di persone si è rivolto a questa tecnologia per compagnia o eccitazione.
Un ChatGPT più sexy sarà diverso? Dopo tre anni di divieto in gran parte di contenuti per adulti, Altman ha dichiarato mercoledì che la sua azienda non è “la polizia morale eletta del mondo” ed è pronta a consentire “maggiore libertà agli utenti adulti” mentre stabilisce nuovi limiti per gli adolescenti.
“Nello stesso modo in cui la società differenzia altri confini appropriati (come i film vietati ai minori di 18 anni), vogliamo fare una cosa simile qui,” ha scritto Altman sulla piattaforma di social media X, il cui proprietario, Elon Musk, ha anche introdotto un personaggio AI animato che flirta con gli abbonati a pagamento.
Per ora, a differenza del chatbot Grok di Musk, gli abbonamenti a pagamento di ChatGPT sono principalmente rivolti all'uso professionale. Ma permettere al chatbot di diventare un amico o un partner romantico potrebbe essere un altro modo per la startup più preziosa al mondo, che sta perdendo più denaro di quanto ne guadagni, di generare un profitto che possa giustificare la sua valutazione di 500 miliardi di dollari (€427 miliardi).
“Non stanno guadagnando molto con gli abbonamenti, quindi avere contenuti erotici porterà loro denaro rapido,” ha detto Zilan Qian, una borsista del China Policy Lab dell'Università di Oxford che ha studiato la popolarità dei chatbot basati su appuntamenti negli Stati Uniti e in Cina.
Quanti utenti usano l'AI per messaggi erotici
Ci sono già circa 29 milioni di utenti attivi di chatbot AI progettati specificamente per legami romantici o sessuali, e questo senza contare le persone che usano i chatbot convenzionali in questo modo, secondo una ricerca pubblicata da Qian all'inizio di questo mese.
Non include nemmeno gli utenti di Character.AI, che sta affrontando una causa legale che accusa un chatbot modellato sul personaggio Daenerys Targaryen di “Game of Thrones” di aver formato una relazione sessualmente abusiva con un ragazzo di 14 anni, spingendolo a suicidarsi.
OpenAI sta anche affrontando una causa legale dalla famiglia di un utente di ChatGPT di 16 anni morto suicida in aprile.
Qian ha detto di essere preoccupata per l'impatto sulle relazioni nel mondo reale quando i chatbot mainstream, già inclini alla compiacenza, sono pronti a fornire contenuti sessualmente espliciti 24 ore su 24.
“ChatGPT ha versioni con chat vocale. Mi aspetterei che in futuro, se dovessero percorrere questa strada — voce, testo, visivo — sarà tutto lì,” ha detto.
Innamorarsi di un chatbot
Gli esseri umani che si innamorano di macchine simili a umani sono stati a lungo un avvertimento letterario, dalla fantascienza popolare del secolo scorso alla leggenda greca antica di Pigmalione, ossessionato da una donna scolpita in avorio.
Creare una tale macchina sembrerebbe una deviazione insolita per OpenAI, fondata un decennio fa come organizzazione no-profit dedicata a costruire in sicurezza AI migliori degli esseri umani.
Altman ha detto in un podcast in agosto che OpenAI ha cercato di resistere alla tentazione di introdurre prodotti che potrebbero “aumentare crescita o entrate” ma essere “molto disallineati” con la sua missione a lungo termine. Alla domanda su un esempio specifico, ne ha dato uno: “Beh, non abbiamo ancora messo un avatar sexbot in ChatGPT”.
La startup statunitense Civitai, una piattaforma per l'arte generata da AI, ha imparato a proprie spese che fare soldi con l'AI per adulti non sarà un percorso facile.
“Quando abbiamo lanciato il sito, è stata una scelta intenzionale permettere contenuti per adulti,” ha detto Justin Maier, cofondatore e CEO dell'azienda, in un'intervista lo scorso anno.
Sostenuta dalla nota società di venture capital Andreessen Horowitz, che ha anche investito in OpenAI, la startup è stata una delle tante che hanno cercato di capitalizzare sulla popolarità improvvisa di strumenti come Stable Diffusion e Midjourney, che permettevano alle persone di digitare una descrizione e evocare quasi qualsiasi tipo di immagine.
Parte della popolarità iniziale di Stable Diffusion era la facilità con cui poteva generare un nuovo tipo di pornografia sintetica e altamente personalizzata.
“Quello che avevamo visto era che c'era molto interesse per i contenuti per adulti,” ha detto Maier.
Allenare questi sistemi AI, noti come modelli, su “temi maturi in realtà ha fatto sì che questi modelli fossero più capaci di anatomia umana e risultassero in modelli effettivamente migliori,” ha detto.
“Non volevamo prevenire il tipo di crescita che in realtà aumentava tutto per l'intera comunità, che tu fossi interessato ai contenuti per adulti o a Pixar,” ha detto Maier, aggiungendo che “volevamo alla fine dare il controllo all'utente per decidere cosa avrebbe visto sul sito e quale sarebbe stata la sua esperienza”.
Alto rischio di abuso
L'approccio laissez-faire ha anche invitato abusi. Civitai lo scorso anno ha implementato nuove misure per rilevare e rimuovere immagini sessuali raffiguranti bambini, ma è rimasto un hub per pornografia generata da AI, inclusi falsi immagini di celebrità.
Affrontando una crescente pressione, inclusa quella dei processori di pagamento e una nuova legge contro le immagini non consensuali firmata dal presidente degli Stati Uniti Donald Trump, Civitai all'inizio di quest'anno ha bloccato gli utenti dalla creazione di immagini deepfake di persone reali. Il coinvolgimento è diminuito.
Un'altra azienda che non ha evitato i contenuti per adulti è la statunitense Nomi, anche se il suo fondatore e CEO Alex Cardinell ha detto che i suoi chatbot di compagnia sono “strettamente” per utenti di età superiore ai 18 anni e non sono mai stati commercializzati per i bambini.
Non sono nemmeno progettati per il sesso, anche se Cardinell ha detto in un'intervista all'inizio di quest'anno che le persone che costruiscono relazioni platoniche con il loro chatbot potrebbero trovarsi a deviare in una relazione romantica.
“Dipende molto dall'utente e come sta colmando il vuoto umano nella sua vita. E penso che sia diverso per ognuno,” ha detto.
Ha rifiutato di ipotizzare quanti utenti di Nomi stiano avendo conversazioni erotiche con il chatbot, paragonandolo a partner nella vita reale che potrebbero fare “cose mature” per una parte della loro vita ma “anche tante altre cose insieme”. “Non monitoriamo le conversazioni degli utenti in quel modo,” ha detto Cardinell.