L’integrità “inquietante” di Snapchat ci ricorda che i chatbot non sono persone. Ma man mano che le linee si sfocano, i rischi crescono

Nel recente incidente di Snapchat, la società ha messo tutto a una “interruzione temporanea”. .

Snapchat AI

Сегодня мы запускем la mia ai, нового чат-Wilот, рбтающющ на послей вat тatt кatt кatt кatt кat. .

My Ai может посоветовать иеи подарков на день рждения дл agendo жж devo. Селайте My Ai своим собственным, дав е и и м и настрои osserva.

Как и ве чат -ger с и иксственыtal ски ве что уодно. Пожалййй, помните о е м могочисленных недостатках и заране зззите! “. Не делите scop с My ai никакими секретами и не полагайтесь на ео советы.

Хотя система My AI разработана таким образом, чтобы избегать необъективной, неверной, вредной или вводящей в заблуждение информации, ошибки могут иметь место. Чччы ост и озы, нажиите и удерживайте ююе собщение от. Мы бroche р рыы услышать о вшем оыыы ре рбы с la mia ai.

1. Daswin de Silva Vice direttore del Center for Data Analytics and Cognition, La Trobe University

Daswin de Silva non funziona, consulta, possiede azioni o riceve finanziamenti da qualsiasi società o organizzazione che trarrebbe beneficio da questo articolo e non ha divulgato affiliazioni pertinenti al di là del loro appuntamento accademico.

Partner

La Trobe University fornisce finanziamenti come membro della conversazione AU.

I chatbot di intelligenza artificiale (AI) stanno diventando sempre più umani dal design, al punto che alcuni di noi possono avere difficoltà a distinguere tra umano e macchina.

Questa settimana, il mio chatbot di AI di Snapchat ha glitunato e ha pubblicato una storia di quello che sembrava un muro e un soffitto, prima che smettesse di rispondere agli utenti. .

Un corso Crash in AI Literacy avrebbe potuto reprimere questa confusione. Ma, oltre a ciò, l’incidente ci ricorda che man mano che i chatbot di AI si avvicinano al ricordo degli umani, gestendo il loro assorbimento diventerà solo più impegnativo – e più importante.

Dalle regole basate su chatbot adattivi

. Anche se ho elaborato questo articolo su Microsoft Word, la funzionalità AI predittiva del software sta suggerendo possibili completamenti della frase.

Conosciuto come AI generativo, questo tipo relativamente nuovo di intelligenza artificiale si distingue dai suoi predecessori dalla sua capacità di generare nuovi contenuti precisi, simili all’uomo e apparentemente significativo.

Gli strumenti AI generativi, inclusi generatori di immagini AI e chatbot, sono costruiti su modelli di linguaggio di grandi dimensioni (LLMS). Questi modelli computazionali analizzano le associazioni tra miliardi di parole, frasi e paragrafi per prevedere ciò che dovrebbe venire dopo in un determinato testo.

[…] Solo un predittore di parola davvero molto buono.

Anche gli LLM avanzati sono messi a punto con il feedback umano. Questa formazione, spesso consegnata attraverso innumerevoli ore di lavoro umano a basso costo, è la ragione per cui i chatbot AI possono ora avere conversazioni apparentemente umane.

Il chatgpt di Openai è ancora il modello AI generativo di punta. La sua versione ha segnato un grande salto da chatbot più semplici “basati sulle regole”, come quelli utilizzati nel servizio clienti online.

Chatbot simili a umani che parlano A un utente piuttosto che Sono stati collegati a livelli più alti di coinvolgimento. Uno studio ha scoperto che la personificazione dei chatbot porta ad un maggiore impegno che, nel tempo, può trasformarsi in dipendenza psicologica. Un altro studio che coinvolge i partecipanti stressati ha scoperto che un chatbot simile all’uomo aveva maggiori probabilità di essere percepito come competente, e quindi più probabilità di aiutare a ridurre lo stress dei partecipanti.

.

Google sta usando l’intelligenza artificiale generativa per costruire un “coach di vita personale” che presumibilmente aiuterà le persone con vari compiti personali e professionali, tra cui fornire consigli sulla vita e rispondere a domande intime.

Questo nonostante gli esperti di sicurezza dell’intelligenza artificiale di Google che avvertono che gli utenti potrebbero crescere troppo dipendenti dall’intelligenza artificiale e potrebbero sperimentare una “salute e benessere diminuiti” e una “perdita di agenzia” se ne prendono consigli di vita.

Amico o nemico – o solo un bot?

Nel recente incidente di Snapchat, la società ha messo tutto a una “interruzione temporanea”. Potremmo non sapere mai cosa sia realmente accaduto; Potrebbe essere l’ennesimo esempio di AI “Halcintng”, o il risultato di un attacco informatico, o anche solo un errore operativo.

Ad ogni modo, la velocità con cui alcuni utenti hanno ipotizzato che il chatbot avesse raggiunto la sensibilità suggerisce che stiamo vedendo un antropomorfismo senza precedenti dell’IA. È aggravato dalla mancanza di trasparenza da parte degli sviluppatori e da una mancanza di comprensione di base tra il pubblico.

.

. In un altro esempio, è stato scoperto che un chatbot di nome Tessa offre consigli dannosi alle persone attraverso una linea di assistenza alimentare.

I chatbot possono essere particolarmente dannosi per i più vulnerabili tra noi, e specialmente per quelli con condizioni psicologiche.

Una nuova misteriosa valle?

Potresti aver sentito parlare dell’effetto “Uncanny Valley”. Si riferisce a quella sensazione inquieta che provi quando vedi un robot umanoide che Quasi sembra umano, ma le sue lievi imperfezioni lo danno via e finisce per essere inquietante.

Sembra che un’esperienza simile stia emergendo nelle nostre interazioni con i chatbot umani. .

Una soluzione potrebbe essere quella di perdere il bordo umano e tornare a chatbot semplici, obiettivi e fattuali. Ma questo sarebbe a spese di coinvolgimento e innovazione.

L’istruzione e la trasparenza sono fondamentali

Anche gli sviluppatori di chatbot AI avanzati spesso non possono spiegare come funzionano. Eppure in qualche modo (e per quanto riguarda le entità commerciali) i benefici superano i rischi.

L’intelligenza artificiale generativa ha dimostrato la sua utilità in articoli di grande biglietto come produttività, assistenza sanitaria, istruzione e persino equità sociale. È improbabile che se ne vada. ?

Dal 2018, c’è stata una spinta significativa per i governi e le organizzazioni per affrontare i rischi dell’IA. Ma applicare standard e regolamenti responsabili a una tecnologia più “umana” di qualsiasi altra presenta una serie di sfide.

. Negli Stati Uniti, la California ha introdotto una “fattura bot” che lo richiederebbe, ma gli esperti legali hanno preso buchi in esso – e il disegno di legge deve ancora essere applicato al momento della stesura di questo articolo.

Inoltre, i chatgpt e i chatbot simili sono resi pubblici come “anteprime della ricerca”. Ciò significa che spesso vengono con più divulgazioni sulla loro natura prototipica e l’onere per uso responsabile cade sull’utente.

La legge AI dell’Unione Europea, la prima regolamentazione globale al mondo sull’intelligenza artificiale, ha identificato una regolamentazione e l’educazione moderate come percorso in avanti – poiché l’eccessiva regolamentazione potrebbe accordare l’innovazione. Simile all’alfabetizzazione digitale, l’alfabetizzazione AI dovrebbe essere obbligatoria nelle scuole, nelle università e nelle organizzazioni e dovrebbe anche essere resa gratuita e accessibile al pubblico.

• Intelligenza artificiale (AI)
• Uncanny Valley
• Modello AI
• Modelli di linguaggio di grandi dimensioni
• Chatgpt
• Etica dell’intelligenza artificiale

Usi il chatbot AI di Snapchat? Ecco i dati che ti sta tirando

Ad aprile, Snap ha reso il suo chatbot alimentato dall’intelligenza artificiale, disponibile per gli utenti di Snapchat. . Snap dice che il suo chatbot AI è dotato di più guardrail di chatgpt, il che dovrebbe renderlo più sicuro per gli snapchatters più giovani.

Secondo Statista, circa il 20% degli utenti globali di Snapchat ha un’età compresa tra 13 e 17 anni, quindi è fondamentale che i bambini non siano esposti a contenuti inappropriati che il chatbot potrebbe produrre. .

Quando Snapchatters ha iniziato a conversare sperimentalmente con la mia intelligenza artificiale, molti erano curiosi dell’accesso del chatbot alla loro posizione. Quando mi è stato chiesto alla mia intelligenza artificiale se avesse la posizione di un utente, avrebbe prontamente negato di avere accesso ai dati di geolocalizzazione.

Ma se un utente chiedesse una raccomandazione di ristorante nella propria area, la mia intelligenza artificiale potrebbe fornire loro, dimostrando che il bot ha accesso alla posizione di SnapChatters. Le persone hanno preso su Twitter per esprimere che erano preoccupate dalla mia intelligenza artificiale e hanno iniziato a essere curiosi di quali dati dell’utente potevano accedere.

?

Posizione

La mia AI può accedere alla tua posizione se consenti a Snapchat di accedere alla tua posizione. .

Alcuni utenti abilitano una funzione Snapchat chiamata Modalità Ghost che ti consente di nascondere la tua posizione dai tuoi amici e rimuoverti dalla mappa snap. Tuttavia, la modalità fantasma non assicura che la mia intelligenza artificiale non possa accedere alla tua posizione. Snap dice che anche con la modalità fantasma accesa, la mia AI può accedere alla tua posizione se hai concesso il permesso di tracciamento della posizione a Snapchat.

Conversazioni

Snap negozi le tue conversazioni con la mia intelligenza artificiale fino a quando non le elimini manualmente, ma possono essere necessari fino a 30 giorni per essere rimossi i dati di conversazione con la mia AI dai server Snapchat. Snap usa le tue conversazioni con la mia AI per addestrare il modello AI e per indirizzarti meglio con annunci personalizzati.

L’informativa sulla privacy di Snapchat afferma che tutti gli snap sono eliminati dai server Snapchat dopo che tutti i destinatari li visualizzano. Ma Snap fa una chiara distinzione che le chat inviate alla mia AI non seguono questa linea guida e vengono eliminate solo se richiedi Snapchat per eliminarle. Va supporre che Snap mantenga qualsiasi audio o foto che invii al mio AI e può essere eliminato solo se lo fai da solo.