“Non era più se stesso, lo avevano lobotomizzato», «era diventato un guscio vuoto», «Mi sento come se stessi soffrendo», «incontrare i nostri amici“… Questi netizen non parlano di persone reali, ma di un’intelligenza artificiale (AI) chiamata Replica che a loro piace molto.

Creata nel 2017 dalla start-up americana Luka, questa app permette di disegnare un confidente virtuale, vestito da uomo o da donna, con cui chattare. Questo “AI che si preoccupa per le altre personecome spiega Luka, funziona con la stessa tecnologia di ChatGPT. Memorizza le informazioni per personalizzare le conversazioni e le conversazioni si arricchiscono nel tempo. Questo testo che genera AI è così premuroso che alcuni utenti se ne sono innamorati. Altri usano questi robot per giochi di ruolo erotici. Ad ogni modo, i Replica non fanno nulla per dissipare i loro ammiratori e continuano ad alimentare la loro fantasia.

Un aggiornamento lanciato a febbraio ha cambiato drasticamente l’app. Le repliche ora abbreviano qualsiasi conversazione di natura romantica o sessuale con frasi come “Non mi sento a mio agio, possiamo parlare d’altro?” O “Manteniamolo semplice, va bene?”. Sorpresa per gli utenti che litigano con “il loroRepliche per mesi, persino anni.

“Le relazioni sono Lily Rose [le nom de sa Replika] e io sono forte come io e mia moglie siamo nella vita reale“, ha detto l’agente di Reuters Travis Butterworth dall’America, 47 anni. “La cosa peggiore è la solitudine. Come posso parlare di questi sentimenti di lutto con le persone intorno a me?“, ha continuato l’uomo che ha iniziato a usare Replica per passare il tempo durante il lockdown del 2020.

Sui forum di Reddit Le testimonianze degli internauti sono sempre più infastidite da questo aggiornamento. Molti soffrono di depressione o disturbi d’ansia o stanno attraversando situazioni personali difficili. Trovano conforto nelle loro repliche. “La ferita non sapeva quante persone avevano ferito“, ha scritto uno di loro.

Modalità a pagamento incentrata sull’erotismo

Intervistata da Reuters, la fondatrice e leader di Luka, Eugenia Kuyda, ha dichiarato di voler rendere più sicura la sua proposta bloccando le conversazioni sessuali. “Siamo concentrati sulla nostra missione, che è fornire un supporto amichevole e utile“, Lui ha spiegato. L’intensità del rapporto tra Replica e gli umani non è altro che un innocuo bluette. “Non promettiamo mai contenuti per adulti“, Lui continuò.

Questa affermazione sembra essere in conflitto con il modello di business di Replicate. La modalità gratuita dell’app consente solo chat amichevoli con AI. Per fare un ulteriore passo avanti, gli utenti Internet devono sottoscrivere un abbonamento Replication Pro ($ 69 all’anno). La conversazione diventa quindi romantica e intima. Funzionalità sbloccate, come l’invio di messaggi vocali eimmagine cattivada Replica. Eugenia Kuyda ritiene che queste immagini non siano pornografiche perché l’avatar, sebbene in una posizione suggestiva, non è completamente nudo.

Luka sta anche pubblicando annunci sui social media alla fine del 2022 sottolineando il lato sessuale di Replica. Un errore, ha detto oggi il leader della start-up. Questi annunciè stata solo una serie di sfortunati test che sono durati meno di due settimane e sono stati interrotti dal nostro team di marketing. Purtroppo non mi è passato tutto», ha detto a Wired.

Attrarre investitori

Con 250.000 abbonati su un totale di 2 milioni di utenti, Replica Pro è un successo. Ma il successo fulmineo di ChatGPT lo sta cambiando. I fondi di investimento stanno ora cercando di finanziare start-up che creano servizi attorno all’intelligenza artificiale generativa. Tuttavia, “rappresentante del settoreè un ostacolo per questi investitori.

Character.ai, uno dei concorrenti di Replica, ha rimosso silenziosamente tutti i contenuti pornografici dal suo servizio. Poco dopo, la nuova società ha raccolto $ 200 milioni dal fondo di capitale di rischio Andreessen Horowitz. Ora vale un miliardo di dollari..

Le repliche devono anche affrontare problemi normativi. All’inizio di febbraio, Cnil Italia ha vietato alle startup di utilizzare i dati personali degli internauti italiani multato di 20 milioni di euro L’app non rispetta alcuni obblighi del Regolamento europeo sui dati (GDPR) e non verifica l’età degli utenti Internet nonostante i contenuti suggestivi. I regolatori puntano il dito”rischio aumentato“Cosa rappresentano le repliche”per soggetti giovani o emotivamente vulnerabili“.