Se sei antico come me, probabilmente ricordi le notice di Lotus. La principale piattaforma di groupware dell’ultimo millennio, ma non solo ha fornito e-mail aziendali e comunicazioni pre-slack, ma ha anche autorizzato chiunque nell’organizzazione di costruire e pubblicare mini siti di mini-web che chiunque potesse utilizzare.
Non ci è voluto molto perché tutto il treno di potenziamento dei dipendenti si allontanasse dalle rotaie. Improvvisamente, Madge nella contabilità potrebbe schiaffeggiare un sito che ha esposto i dati aziendali privati, con l’organizzazione IT non è più saggio. Nessun take a look at, nessuna conformità, nessuna supervisione.
Ombra aveva allevato la sua brutta testa. Finora aveva controllato tutte le distribuzioni tecnologiche contro l’organizzazione, con in mano le redini tecnologiche per qualsiasi dipartimento o individuo che cercava di distribuire qualsiasi risorsa basata sul software program.
Ora, chiunque potrebbe farlo, essenzialmente montando il proprio sforzo IT nell’ombra.
Oggi, AI sta affrontando una sfida simile. Non molto tempo fa, tutti gli sforzi di AI aziendale hanno richiesto una profonda competenza tecnologica e quindi risiedevano sotto il controllo (o un altro dipartimento tecnologico) che presumibilmente sapeva cosa stava facendo.
L’apprendimento automatico, l’apprendimento profondo (come la visione artificiale), gli aiops e il resto del pantheon AI sono stati comodamente raccolti nei cubicoli dei tecnologi.
Poi è arrivato AI generativo (Genai). Improvvisamente, chiunque può lavorare direttamente con l’IA. Anche Madge può digitare qualunque immediate volesse in Chatgpt o qualche altro strumento, incluso gli strumenti di intelligenza artificiale aziendale in grado di accedere ai dati interni.
Benvenuti a Your Shadow Ai Nightmare.
Le sette insidie
Genai apre nuove dimensioni di Shadowness ben oltre l’ombra del vecchio. Ecco sette esempi.
Insidua 1: accesso ombra ai dati aziendali
Uno degli usi più popolari di Genai nelle aziende oggi è l’esposizione dei dati aziendali per uso ufficiale, tra cui ricerche, riepilogo e analisi. Chiaramente, Genai è uno strumento potente per tali scopi.
Il ventre oscuro di story utilizzo è quando le persone usano l’IA per accedere ai dati aziendali in modi non autorizzati a scopi non autorizzati.
Più è potente lo strumento, più pericoloso diventa, man mano che le persone capiscono come restrizioni l’organizzazione IT mette in atto.
Insidua 2: ombra plagio
Llms Ciò sfrutta le fonti di informazione pubblica in genere non hanno alcun riguardo per i diritti d’autore o altre protezioni della proprietà intellettuale. Il contenuto generato dall’IA può violare facilmente tali restrizioni.
I tuoi licei stanno usando Chatgpt per scrivere i loro documenti a termine (scusate, genitori!). Story non solo usa un abuso di diritti di proprietà intellettuale, ma sconfigge lo scopo di scrivere i documenti in primo luogo.
Lo stesso vale nel mondo aziendale. Il contenuto plagiato non è semplicemente adatto allo scopo, non importa cosa potrebbe essere quello scopo aziendale.
Insidica 3: pigrizia ombra
Genai rende semplice generare una vasta gamma di contenuti, contenuto che gli esseri umani avevano precedentemente generato alla vecchia maniera.
Da un lato, Genai è un vantaggio per tali creatori di contenuti. Pensa a tutti i risparmi di tempo che deriveranno dall’intelligenza artificiale per te!
D’altra parte, è semplicemente un modo per aggirare il dover fare il tuo lavoro, in particolare, quando i contenuti generati dall’IA non soddisfano i requisiti aziendali.
Copywriting – creazione di contenuti di testo per siti Internet, brochure, ecc., È uno dei migliori esempi di questa trappola. Perché passare il tempo a scrivere copia quando Genai può creare contenuti simili (ma inferiori)?
Insidica 4: Uso del telefono ombra
Il dilemma “Porta il tuo dispositivo” (BYOD) non ha causato tremendous al mal di testa per i dipartimenti IT mentre lottano per evitare violazioni della sicurezza informatica, esfiltrazione di dati aziendali e ogni sorta di altri mali derivanti da persone che portano al lavoro i telefoni personali.
L’intelligenza artificiale complica il problema BYOD, poiché tutti i telefoni hanno ora le proprie capacità di Genai: portando tutte le varie sfide di Genai direttamente nelle organizzazioni senza passare attraverso i firewall o altre protezioni.
In altre parole, i telefoni personali fungono da moltiplicatore di forza per le altre insidie in questo elenco. A cosa servono i controlli aziendali su Genai se i dipendenti possono semplicemente inviarsi un’e-mail a contenuti generati dall’IA dai loro telefoni?
Insidia 5: utilizzando i dati pubblici per scopi aziendali
Gli strumenti di ricerca Genai rendono semplice la ricerca di Web al livello successivo. Le persone possono ricevere risposte dettagliate a domande sempre più sofisticate, risposte che possono trovarsi in scenari aziendali, senza nessuno il più saggio.
Vedi quei punti dati in quel powerpoint che qualcuno sta presentando alla direzione? Sono venuti da una fonte verificata o sono un’allucinazione Genai? Come puoi dirlo?
Insidica 6: Shadow AI Brokers
Gli agenti di Genai sono programmi per laptop autonomi che sfruttano Genai per completare i compiti e i migliori addirittura imparano nel tempo.
L’intelligenza artificiale agente è tutta la rabbia oggi, anche se le tecnologie agenti utili stanno arrivando solo ora sul mercato.
Questo stato immaturo degli agenti disponibili espone ogni tipo di rischi, poiché le persone possono trovarsi a distribuire agenti di intelligenza artificiale per tutti i tipi di compiti dal radar del dipartimento IT.
Proprio come con i telefoni personali, gli agenti di intelligenza artificiale sono un moltiplicatore di forza per altre insidie AI, ma a differenza dei telefoni, gli agenti operano da qualche parte nella rete aziendale.
E stanno diventando più intelligenti mentre vanno, nel bene e nel male.
Insidua 7: Ombra Vibe Coding
La codifica vibrante è un nuovo termine per sfruttare Genai nel processo di codifica del software program.
Nelle mani giuste, gli strumenti di generazione di codice possono semplificare il lavoro dello sviluppatore, migliorando la loro produttività e l’esperienza degli sviluppatori.
Nelle mani sbagliate – cioè nelle mani di qualcuno che non sa come affrontare le carenze della codifica vibrante – l’uso di Genai per creare applicazioni può portare a tutti i tipi di problemi, tra cui vulnerabilità del software program, scarsa qualità e debito tecnico aggiuntivo.
Il tuo dipartimento IT – o in questo caso, forse il tuo crew DevOps – sappia tutto il codice vibrante in corso nella tua organizzazione? In caso contrario, perché no?
La codifica vibrante è il dono dell’AI Shadow che continua a dare, poiché il codice generato da ai potrebbe rimanere in produzione per anni. Man mano che migliorano gli strumenti di codifica vibrante, diventerà sempre più difficile identificare, per non parlare del correzione, tutto il codice generato dall’AI nell’organizzazione.
La sfida della governance dell’IA
Affrontare i problemi di Shadow AI rientra nell’space fiorente della governance dell’IA. In effetti, i nuovi strumenti di governance dell’IA stanno spuntando come erbacce e molti di loro sperano di affrontare i problemi in questo articolo.
Se stai acquistando uno strumento di governance dell’IA, tuttavia, devi stare attento, poiché le varie offerte sul mercato differiscono drammaticamente l’una dall’altra.
Molti strumenti di governance di questo tipo si concentrano sulla conformità normativa. I nuovi regolamenti di intelligenza artificiale stanno spuntando in tutto il mondo e le imprese stanno lottando per tenere il passo.
Gli strumenti di governance di intelligenza artificiale dovrebbero essere senza dubbio uno strumento importante nella cintura degli strumenti di conformità. Tuttavia, il problema dell’AI Shadow può essere tangenzialmente correlato alla conformità normativa.
Molte delle insidie sopra riguardano più le persone che svolgono il proprio lavoro in modo improprio piuttosto che qualsiasi tipo di rottura formale delle regole. È quindi essenziale che il tuo strumento di governance dell’IA è all’altezza della sfida dell’AI Shadow.
Un modello familiare, una nuova minaccia
Ho iniziato questo articolo confrontando Shadow AI All’ombra ha problemi di vecchio, come osserva Lotus così giustamente rappresentato.
Le notice hanno portato all’esposizione di dati aziendali, software program di scarsa qualità e violazioni normative occasionali, proprio come Genai ora.
Laddove l’AI Shadow e i sample IT dell’ombra differiscono, tuttavia, è quanto sia semplice Genai da usare indipendentemente dalle capacità tecniche.
Le notice di Lotus hanno abbassato sostanzialmente la barra tecnologica, ma Genai lo abbassa ulteriormente. Possiamo anche sostenere che Genai è molto più potente delle notice mai.
Le persone possono sfruttare questa nuova tecnologia per ottenere ogni tipo di valore aziendale e contemporaneamente ogni tipo di malizia.
Non lasciarti colto di sorpresa da Shadow AI, o tu e la tua organizzazione finirete per vivere in questo incubo.
