FOCUS I L’ intelligenza artificiale entra in vetreria
FOCUS I L’ intelligenza artificiale entra in vetreria
Mockup embedded AI in glassAdvisor
Un commerciale che non ha mai letto un calcolo strutturale chiede all’ IA di eseguirlo. Un ufficio tecnico chiede all’ IA di generare una DoP. In questi casi il rapporto si inverte: non è più la persona a governare lo strumento, ma lo strumento a governare la persona. E la persona firma invia, consegna qualcosa che non è in grado di verificare. È il pattern più pericoloso, perché produce errori invisibili: né chi scrive né chi riceve è in grado di riconoscerli. Ed è, statisticamente, il modo in cui l’ IA sta entrando in gran parte delle aziende oggi. La regola pratica è semplice: usa l’ IA per accelerare quello che sai già fare, non per delegare quello che non sai fare.
I RISCHI DA TENERE SUL RADAR Accanto al tema del controllo, restano rischi più specifici che meritano un elenco:
• Riservatezza dei dati. Ogni testo incollato in un chatbot pubblico esce dal perimetro aziendale. Capitolati, offerte, documenti dei clienti: se finiscono in una versione gratuita di ChatGPT, in molti casi possono essere usati per addestrare modelli futuri o restare comunque nei sistemi del fornitore.
• Allucinazioni su numeri e norme. Un modello
generalista può inventare riferimenti normativi che non esistono, sbagliare articoli di legge, produrre valori Ug plausibili ma non corretti. Il problema non è che sbagli, sbagliano anche le persone, è che sbaglia con un tono di sicurezza che disinnesca il dubbio.
• AI Act europeo. Il regolamento europeo sull’ IA, entrato in vigore nel 2024 e in applicazione progressiva, introduce obblighi anche per le aziende che semplicemente utilizzano sistemi di IA generalista, non solo per chi li produce: policy interne, formazione, tracciabilità di alcuni utilizzi.
• GDPR. Incollare in un chatbot pubblico dati personali di clienti, dipendenti o fornitori è un trattamento di dati che va gestito con le stesse regole di tutti gli altri.
• Dipendenza dalla piattaforma. Costruire processi sopra uno strumento significa dipendere dai suoi prezzi, dalla sua disponibilità e dalle sue politiche.
BUONE PRATICHE PER UNA VETRERIA CHE VUOLE USARE L’ IA I rischi non sono un motivo per stare fuori, sono un motivo per entrare con metodo. Alcune buone pratiche già consolidate:
32 letsglass. it