In Breve
- Che cos'è AI Scout?
- AI Scout è uno strumento di NordLayer per monitorare l'uso di servizi di intelligenza artificiale in azienda.
- Quali sono i rischi associati all'uso di AI non autorizzata?
- I rischi includono la perdita di dati sensibili e costi elevati in caso di violazioni.
- Come funziona il monitoraggio di AI Scout?
- AI Scout monitora interazioni su browser e desktop, identificando servizi AI autorizzati e non autorizzati.
NordLayer ha recentemente lanciato AI Scout, un innovativo strumento progettato per offrire alle aziende una visibilità completa sull’uso dei servizi di intelligenza artificiale (AI) da parte dei dipendenti. Questo strumento si propone di affrontare i crescenti rischi di perdita di dati associati all’uso di strumenti non autorizzati, un fenomeno noto come shadow AI.
AI Scout è un’applicazione standalone che monitora le interazioni degli utenti su browser e desktop, identificando i servizi di AI sia autorizzati che non autorizzati. Grazie a questa funzionalità, le aziende possono misurare l’utilizzo reale dei servizi rispetto alle sottoscrizioni acquistate e stimare il consumo di token tra i vari modelli linguistici impiegati.
Una delle caratteristiche distintive di AI Scout è la sua capacità di implementare controlli per ispezionare i prompt e bloccare o redigere contenuti sensibili prima della loro trasmissione a servizi esterni. Inoltre, i controlli basati sul browser possono intervenire nel momento in cui un dipendente inserisce informazioni che necessitano di un’ulteriore revisione, garantendo così una maggiore sicurezza dei dati aziendali.
Il monitoraggio offerto da AI Scout non si limita ai tradizionali chatbot, ma si estende anche agli agenti AI e alle loro connessioni tecniche con i servizi aziendali. Gli amministratori possono ispezionare l’infrastruttura MCP (Managed Control Plane) collegata agli agenti di programmazione e valutare le capacità operative di questi sistemi, rendendo la gestione delle tecnologie AI più efficace e sicura.
Questa iniziativa di NordLayer risponde a una crescente preoccupazione tra le aziende riguardo all’adozione dell’AI sul posto di lavoro. Secondo recenti indagini, il 59% delle aziende spende più di 1 milione di dollari all’anno in tecnologie AI. Tuttavia, il 42% dei dipendenti utilizza sistemi AI approvati, mentre un preoccupante 70%% ricorre a modelli gratuiti non autorizzati per le proprie attività lavorative.
Le violazioni legate allo shadow AI possono comportare costi significativi: si stima che possano aumentare il costo medio globale di una violazione di circa 400.000 dollari, su un valore medio di 4,99 milioni di dollari. In questo contesto, l’AI DLP (Data Loss Prevention) di AI Scout è progettata per ispezionare i prompt e controllarli prima dell’invio, evitando così l’immissione di dati sensibili.
Con la rapida crescita di nuovi modelli di linguaggio (LLM), è evidente la necessità di strumenti di telemetria in grado di raccogliere in un’unica piattaforma l’utilizzo dell’AI, sia autorizzato che non. AI Scout si propone di essere la soluzione ideale per le aziende che desiderano gestire in modo proattivo l’adozione dell’AI e mitigare i rischi associati.
