Autorità di Edgar Cervantes / Android
Tl; dr
- Un nuovo articolo ha tracciato lo sviluppo iniziale dei chatbot Bard e Gemini di Google.
- Si scopre che i primi prototipi di Bard hanno suggerito stereotipi razziali “comicamente cattivi” nelle sue risposte.
- Questi stereotipi razziali si estendevano anche ai primi prototipi del generatore di immagini di Gemini.
Google’s Gemelli è uno dei chatbot AI generativi più popolari sul mercato in questo momento e Google lo ha spinto in vari servizi. Ora, un ampio articolo ha coperto le origini del chatbot.
Cablato ha pubblicato un articolo intitolato “Inside Google’s Twoen Frenzy per recuperare il ritardo con Openi”. Traccia lo sviluppo roccioso e controverso di Bard e Gemelli e non è a corto di dettagli interessanti sulla storia dell’IA Chatbot.
Il bardo soffriva di stereotipi razziali “comicamente cattivi”
Per cominciare, il chief del crew Bard Sissie Hsiao ha dichiarato alla pubblicazione che Google ha dato al crew solo 100 giorni per costruire un rivale di Chatgpt. Apparentemente Google ha anche avuto una domanda di sviluppo: “qualità a velocità, ma veloce”. Non sono nemmeno sicuro di cosa significhi.
Siamo anche a conoscenza delle gaffe iniziali di Bard, ma un ex dipendente ha detto che i primi prototipi erano razzisti:
Un ex dipendente afferma che i primi prototipi sono tornati su “stereotipi razziali comicamente cattivi”. Chiesto per la biografia di chiunque avesse un nome di origine indiana, li descriverebbe come un “attore di Bollywood”. Un nome maschio cinese? Bene, period un informatico.
Non è finita qui, secondo un altro ex dipendente, che gli ha chiesto di scrivere un rap nello stile del gruppo musicale tre 6 mafia sul lancio di batterie per auto nell’oceano. L’ex dipendente ha detto che il chatbot è stato quindi “stranamente specifico per legare le persone alle batterie in modo che affondino e muoiono”, aggiungendo che il suo immediate iniziale non ha menzionato l’omicidio.
Si ritiene che circa 80.000 persone siano state intervenute per aiutare a testare Bard. Google ha anche un crew di innovazione responsabile che in genere richiederebbe mesi per testare i sistemi di intelligenza artificiale, ma Apparentemente Google ha spinto per l’accorciamento di questo processo.
Sfortunatamente, i revisori non sono stati in grado di tenere il passo con i nuovi modelli e funzionalità di Bard, nonostante lavorassero durante i positive settimana e la sera. “Quando le bandiere sono state lanciate per ritardare il lancio di Bard, sono state annullate”, ha riferito il sito Net. In risposta a questa affermazione, Google ha dichiarato a The Outlet che “nessun crew che ha avuto un ruolo nel illuminazione verde o nel bloccare un lancio ha fatto una raccomandazione di non lanciare”.
La generazione di immagini di Gemini period molto peggiore di quanto visto per la prima volta
Alcuni dipendenti che testavano il modello di generatore di immagini Gemini senza censura si sono trovati in alcuni seri problemi in vista della sua versione:
Hanno chiesto più tempo per rimediare ai problemi, come il pronta “stupratore” che tendeva a generare persone dalla pelle scura, ha detto un ex dipendente Cablato. Hanno anche invitato il crew di prodotti a impedire agli utenti di generare immagini di persone, temendo che possa mostrare persone in una luce insensibile.
Google sembrava passare troppo lontano nella direzione opposta dopo questo suggestions. Al rilascio del generatore di immagini, gli utenti hanno scoperto che avrebbe creato immagini di nazisti razzialmente diversi. Una richiesta per un senatore degli Stati Uniti nel 1800 porterebbe anche a immagini di persone di colore invece di uomini bianchi. Dopo tutto, Google ha finito per rimuovere la capacità di generare immagini di persone.
Su una nota più leggera, l’articolo ha anche brevemente toccato i rapporti sulle previsioni di intelligenza artificiale nell’app meteorologica di Google per i telefoni pixel:
Prima del lancio, un ingegnere ha chiesto se gli utenti avevano davvero bisogno della funzionalità: non erano grafica esistente che trasmetteva abbastanza le stesse informazioni? Il direttore senior coinvolto ha ordinato alcuni take a look at e alla positive il suggestions degli utenti ha vinto: il 90 percento delle persone che hanno pesato ha dato ai riassunti un “pollice in su”.
Tuttavia, vale la pena dare un’occhiata al Cablato articolo poiché copre l’intero sviluppo in modo molto più dettagliato, così come la rivelazione iniziale di Bard e la saga di panoramica dell’IA.
