Punti di forza
- La fiducia nell’era dell’intelligenza artificiale non sta scomparendo, ma si sta evolvendo.
- Le organizzazioni devono verificare costantemente l’intelligenza artificiale, anziché fidarsi di essa di default.
- L’adozione dell’IA dovrebbe dare più autonomia ai dipendenti, non spingerli verso l’IA “ombra”.
- Il modello “zero trust” non significa diffidare delle persone. Significa verificare costantemente identità, dispositivi e azioni.
- L’adozione responsabile dell’IA richiede la collaborazione tra tecnologia, governance e persone.
Quando abbiamo lanciato “Ready. Or Not.”, volevamo creare una serie che rendesse più accessibili alcuni dei temi più importanti del momento in materia di intelligenza artificiale. Grazie alla collaborazione tra il comico Nathan Macintosh ed esperti del settore, stiamo esplorando argomenti che spaziano dall’intelligenza artificiale agentica all’ cyber resilience , fino alla gestione dei dati – il tutto con un pizzico di umorismo.
Se avete seguito la nostra prima puntata sulleopportunità e i rischi dell’IA agente, penso che anche questa vi piacerà. Questa volta affrontiamo un argomento che è al centro di ogni discussione sull’IA: la fiducia.
Nathan incontra Diana Kelley, responsabile della sicurezza informatica presso Protect AI, per una conversazione su cosa significhi riporre fiducia nella tecnologia in un’epoca in cui l’intelligenza artificiale è in grado di generare contenuti falsi convincenti, prendere decisioni e persino imitare le persone. Dai deepfake alle allucinazioni, passando per il modello “zero trust” e la “shadow AI”, i due approfondiscono come le organizzazioni possano adottare l’intelligenza artificiale senza perdere la fiducia nelle proprie persone e nei propri sistemi.Guarda l’episodio completo su Readiverse.Dopo aver visto questa puntata, mi sono sentito più ottimista di quanto mi aspettassi. Non perché l’IA sia improvvisamente diventata più affidabile, ma perché Diana ci dimostra che la fiducia cresce quando le organizzazioni mettono in atto le giuste politiche, le misure di sicurezza e la tecnologia adeguata. Ecco alcuni spunti emersi dalla conversazione che offrono una nuova prospettiva sull’IA.
Fiducia e tecnologia possono coesistere
Diana ritiene che la fiducia sia possibile nell’era dell’IA, ma assumerà una forma diversa. Abbiamo sempre costruito la fiducia attraverso le relazioni con le persone. Ora stiamo imparando come estendere quella fiducia ai sistemi. Questo non significa affidarsi ciecamente alla tecnologia. Significa capire come funziona l’intelligenza artificiale, riconoscerne i limiti e mettere in atto le giuste misure di sicurezza affinché le persone e la tecnologia possano collaborare in tutta fiducia.
«La fiducia deve evolversi per adattarsi al nuovo mondo.» – Diana Kelley
Ciò che mi ha colpito è stata l’idea che fiducia e tecnologia non debbano necessariamente essere in contrasto tra loro. Con il giusto approccio, possono rafforzarsi a vicenda.
Stiamo acquisendo una maggiore comprensione dell’IA
I deepfake sono diventati uno dei rischi legati all’IA di cui si parla di più, ed è facile capire perché. L’IA è ora in grado di generare voci, immagini e video convincenti che ci fanno mettere in discussione ciò che è reale. Ma Diana ha sottolineato che, mentre l’IA diventa sempre più sofisticata, anche le persone stanno diventando più consapevoli. Siamo più propensi a mettere in discussione una telefonata inaspettata, a esaminare più attentamente un post sui social media o a soffermarci su qualcosa che non ci convince del tutto.
Anche le organizzazioni stanno diventando più esperte. Man mano che l’intelligenza artificiale migliora nella sua capacità di simulare identità, le aziende stanno investendo in nuovi metodi per verificare costantemente le identità e convalidare le informazioni. La mia conclusione è questa: la tecnologia continuerà a migliorare, ma lo stesso vale per la nostra capacità di riconoscerla e di reagire in modo responsabile.
«Oggi è una buona giornata per creare un deepfake?» – Nathan Macintosh
Un’IA responsabile fa bene agli affari
Diana ha citato un esempio che probabilmente risulterà familiare a molte organizzazioni. Una dipendente che lei chiama “Karen della contabilità” inizia a utilizzare l’intelligenza artificiale perché le permette di portare a termine un’attività in pochi minuti anziché in ore. Karen non sta cercando di aggirare la politica aziendale, ma solo di essere più produttiva.
I dipendenti utilizzano l’intelligenza artificiale perché ne riconoscono il valore concreto, e questa rappresenta un’opportunità per le organizzazioni. Quando i dipendenti hanno accesso a strumenti di intelligenza artificiale approvati, supportati da politiche chiare e linee guida pratiche, possono lavorare in modo più efficiente, contribuendo al contempo a proteggere i dati e i sistemi aziendali.
Anteprima: un’adozione più intelligente dell’IA
L’obiettivo non è impedire ai dipendenti di utilizzare l’IA, bensì assicurarsi che la utilizzino nel modo corretto. Diana spiega come le organizzazioni possano incoraggiare l’adozione dell’IA senza creare rischi inutili.
Il modello Zero Trust è più importante che mai
«Quando capisci come funzionano le cose, allora puoi iniziare a capire come gestirle.» – Diana Kelley
Lo Zero Trust è uno di quei concetti che risultano molto più facili da comprendere con un’analogia. Diana ne ha una eccellente. Lo descrive come muoversi all’interno di un edificio. Solo perché ti è stato permesso di entrare dalla porta principale non significa che tutte le altre porte si aprano automaticamente per te. Ogni volta che accedi a una nuova stanza, viene effettuato un altro rapido controllo per confermare che tu debba trovarti lì.
È essenzialmente così che funziona lo Zero Trust. È sostanzialmente così che funziona il modello “zero trust”. Anziché dare per scontato che una persona o un dispositivo sia affidabile dopo un singolo accesso, le organizzazioni verificano costantemente identità, dispositivi e azioni, man mano che la tecnologia diventa sempre più interconnessa. La maggior parte di questi controlli avviene in modo discreto, dietro le quinte. Una delle cose che ho apprezzato della spiegazione di Diana è che il “zero trust” non sembra l’ennesima parola d’ordine nel campo della sicurezza. Sembra piuttosto un modo pratico di concepire la fiducia in un mondo in cui l’intelligenza artificiale e le identità digitali stanno diventando parte integrante dell’attività aziendale quotidiana.
La fiducia riguarda le persone
In fin dei conti, non è la tecnologia a creare fiducia, ma le persone. Sono le persone a definire le politiche, i processi e i limiti etici che guidano l’uso dell’IA, mentre la tecnologia contribuisce a verificare che tali misure di sicurezza funzionino come previsto. È proprio questa collaborazione tra persone e tecnologia a rendere possibile un’IA responsabile.
La fiducia va oltre i confini delle nostre organizzazioni. Le aziende devono poter contare sui partner con cui collaborano, sui sistemi a cui si collegano e sulle tecnologie che adottano. Ecco perché la trasparenza, gli standard condivisi e la verifica continua stanno diventando importanti tanto quanto l’innovazione stessa. Più l’intelligenza artificiale entra a far parte della quotidianità aziendale, più la fiducia diventa una responsabilità di tutti.
Guardare avanti
AI will continue to evolve, and so will the way we interact with it. The organizations that succeed won’t be the ones that trust AI blindly or avoid it altogether. They’ll be the ones that build strong policies, adopt the right technologies, and continuously verify the systems they rely on.
Trust isn’t something we lose as technology advances. It’s something we intentionally build and evolve. That’s exactly the kind of conversation we hope to continue with every episode of Ready. Or Not.Guarda l’episodio completo su Readiverse.
Domande frequenti
Q: What is digital trust?
A: Digital trust is the confidence that people, systems, and organizations are who they claim to be and are acting in expected, secure ways. It combines technology, governance, and verification to help organizations interact safely.
Q: What are deepfakes?
A: Deepfakes are AI-generated images, videos, or audio recordings designed to closely imitate real people. While they have legitimate uses, they can also be used to impersonate individuals or commit fraud.
Q: What is zero trust?
A: Zero trust is a security model based on continuous verification rather than automatic trust. Instead of assuming a user or device is trustworthy after one login, organizations continuously validate identities and actions.
Q: What is shadow AI?
A: Shadow AI refers to employees using AI tools that haven’t been approved or governed by their organization. While often well-intentioned, it can introduce security, privacy, and compliance risks.
Q: Why shouldn’t organizations simply block AI tools?
A: Employees typically adopt AI because it helps them work more efficiently. Rather than banning AI outright, organizations should provide approved tools, establish clear policies, and educate employees on responsible use.
D: Qual è il messaggio più importante di questa puntata?
A: Trust isn’t disappearing because of AI – it’s evolving. Organizations that combine people, policies, and technology with continuous verification will be better positioned to adopt AI confidently and responsibly.
Katherine Demacopoulosè direttrice senior della strategia e dei programmi globali relativi ai contenuti presso Commvault.
