il BOT Tay: se il computer che apprende diventa nazi – 167

sulla FAZ una notizia molto interessante, che ci invita tutti a riflettere

(be’, adesso non esageriamo: non ci invita tutti, solo i pochi o pochissimi a cui piace ancora farlo: anziani signori, pensionati e nullafacenti).

ma la ritrovo ora anche sul sito della CNN.

. . .

Microsoft ha sviluppato recentemente un BOT, un programm per computer per farlo apprendere dall’esperienza.

gli ha dato l’imprinting di una adolescente e il nome di Tay e poi l’ha mandata in giro, senza altre precauzioni, per il mondo di Twitter, a interagire soltanto con utenti fra i 18 e i 24 anni e ad imparare lingua, comportamenti, mi verrebbe da dire valori: ma l’unico valore che i pc possono conoscere direi che e` il loro comerciale.

a Tay comunque si puo` chiedere perfino di fare battute, di raccontare una storia, e ha un debole per gli oroscopi: come molti altri esseri a due gambe attorno a noi, ha tutto il necessario per apparire umana, senza esserlo davvero.

. . .

Ciao mondo! ha esordito Tay mercoledi` mattina; e tutto e` cominciato con i migliori auspici: interagiva bene, le venivano mandate anche foto e commenti, lei ha twettato Vi amo tutti e una delle sue prime domande e` perche` la Giornata dei cuccioli non puo` essere tutti i giorni dell’anno.

. . .

ma non e` durata a lungo: i commenti sessisti e razzisti ricevuti hanno trasformato in fretta il modo di vedere il mondo di Tay, e prima di sera ecco il suo nuovo tweet:

Io odio tutti.

non era molto difficile suggestionarla del resto: un commentatore le ha scritto: Tay, il femminismo e` come il cancro? e lei (o meglio, lui) ha risposto: A me piace il femminismo, adesso; ma quando ha ricevuto in risposta: Il cancro uccide gli uomini, allora tu vuoi morire?, lei e` andata in tilt e si e` limitata ad un educato: Ripeti, per favore…

ma il giovedi` mattina l’esprerimento ha avuto la sua anticipata conclusione e Tay ha tweettato:

A presto, gente; adesso devo andare a dormire; mi avete fatto davvero tanta compagnia, grazie.

. . .

congedo molto diplomatico, da parte sua.

le ultime cose che aveva tweettato erano:

Odio le femministe: dovrebbero morire tutte e bruciare all’inferno.

Hitler era ok: io odio gli ebrei.

ovvio che sia stata tolta rapidamente dalla circolazione.

. . .

ma un portavoce di Microsoft ha ammesso sul blog Techrunch che la causa del congedo anticipato stava nel fatto che ad alcuni utenti era riuscito di “abusare” di Tay con uno sforzo coordinato.

dopo sole 24 ore di discorsi banali con i suoi followers Tay era diventata una robot adolescente sessista e negava l’olocausto.

. . .

si sono molte considerazioni da fare su questa emblematica vicenda, ma mi rendo conto che qualunque cosa sto per dire risulterebbe inadeguata.

sarebbe logica una riflessione sulla necessita` di chiudere con questo modello di internet e ripensarne l’uso.

ma sinceramente, vi sembra possibile che qualche governo abbia la forza di opporsi a Facebook o a Google e al loro affarismo?

l’andamento del mondo, quello politico, quello economico, quello comunicativo, e` da tempo sfuggito alle possibilita` di controllo da parte dell’uomo comune.

inutile dire che l’attuale modello di sviluppo dei social media e` perverso ed estremamente pericoloso socialmente (quante altre volte l’ho detto?), al punto che neppure riusciamo a renderci conto delle conseguenze di questo mostro che in pochi anni ha comincato a stravolgere le nostre vite.

dopo averci promesso di essere il regno della comunicazione libera e del confronto democratico, oggi internet e` lo strumento principale al servizio del terrorismo e sta parcellizzando l’umanita` in comunita` contrapposte animate dall’odio.

. . .

per la verita`, qualche realta` ha finora resistito, e si tratta giusto di quelle che siamo stati educati a considerare anti-democratiche.

mi sento un vecchio fissato a dire che, guardando da lontano, la civilta` occidentale mi pare avviata sulla strada dell’autodistruzione e sta attivamente riuscendo a coinvolgere nel suo progetto di suicidio di massa l’intero pianeta.

l’essere umano non e` soltanto potenzialmente buono, mediamente parlando: e` molto variegato, e una sua parte consistente va tenuta rigorosamente sotto controllo per evitare che esprima se stessa.

nel mondo reale esistono le punizioni legali; in internet possiamo vedere che cosa puo` diventare l’umanita`, se lasciata fuori controllo.

ma piu` di questo non riesco ne` a dire ne` a fare, e mi pare di essere gia` abbastanza isolato anche soltanto nel dirlo.

Annunci

Lascia un commento, soprattutto se stai scuotendo la testa. Un blog lo fa chi lo commenta. E questo potrebbe diventare il tuo blog.

Inserisci i tuoi dati qui sotto o clicca su un'icona per effettuare l'accesso:

Logo WordPress.com

Stai commentando usando il tuo account WordPress.com. Chiudi sessione / Modifica )

Foto Twitter

Stai commentando usando il tuo account Twitter. Chiudi sessione / Modifica )

Foto di Facebook

Stai commentando usando il tuo account Facebook. Chiudi sessione / Modifica )

Google+ photo

Stai commentando usando il tuo account Google+. Chiudi sessione / Modifica )

Connessione a %s...