Red Hat ha annunciato l’acquisizione di Chatterbox Labs, azienda all’avanguardia nella sicurezza agnostica dei modelli di intelligenza artificiale e nei meccanismi di protezione per l’AI generativa (gen AI). Questa acquisizione aggiunge funzionalità importanti di AI security al portfolio Red Hat AI, rafforzando l’impegno dell’azienda nel fornire una piattaforma AI enterprise completa e open source, costruita per l’hybrid cloud.

Questo annuncio conferma un anno di rapida innovazione per Red Hat AI, in seguito all’introduzione di Red Hat AI Inference Server e al lancio di Red Hat AI 3. Le realtà di tutto il mondo e in ogni settore stanno adottando Red Hat AI per promuovere l’innovazione attraverso applicazioni di AI generativa, predittiva e agentica e, man mano che passano dalla fase di sperimentazione alla produzione, si trovano di fronte a una sfida complessa: implementare modelli che non siano solo potenti, ma anche dimostrabili, affidabili e sicuri. Le funzionalità di sicurezza e i meccanismi di protezione sono requisiti fondamentali per le moderne operazioni di machine learning (MLOps). Questa attenzione alla sicurezza e alla fiducia riflette l’impegno di Red Hat e IBM nell’aiutare i clienti ad adottare una mentalità “security-first” mentre scalano l’AI in modo responsabile in ambienti hybrid cloud. L’integrazione della tecnologia di Chatterbox Labs crea una piattaforma unificata in cui la sicurezza è integrata fin dall’inizio, rafforzando la capacità di Red Hat di abilitare carichi di lavoro AI in produzione con qualsiasi modello, su qualsiasi acceleratore, dovunque serva.

Fondata nel 2011, Chatterbox Labs fornisce tecnologia e competenze fondamentali nella sicurezza e trasparenza dell’AI. La loro esperienza nella valutazione quantitativa del rischio legato all’AI è stata riconosciuta e apprezzata da think tank indipendenti e da policymaker a livello globale, e questa acquisizione porta a Red Hat una tecnologia di machine learning fondamentale.

Chatterbox Labs offre funzionalità automatizzate e personalizzate di test di sicurezza e protezione dell’AI, fornendo le metriche di rischio concrete di cui i responsabili aziendali hanno bisogno per approvare il rilascio dell’AI in produzione. La tecnologia offre un approccio solido e indipendente dal modello per la validazione di dati e modelli attraverso:

• AIMI per l’AI generativa: Fornisce metriche quantitative indipendenti sul rischio per i Grandi Modelli Linguistici (LLM).
• AIMI per l’AI predittiva: Valida qualsiasi architettura di AI attraverso pilastri fondamentali, tra cui robustezza, equità e spiegabilità.
• Meccanismi di protezione: Individua e corregge prompt poco sicuri, pericolosi o distorti prima di mettere i modelli in produzione.

Questa acquisizione si allinea con la visione di Red Hat di supportare diversi modelli e target di implementazione in tutto l’hybrid cloud. Completa inoltre le capacità innovative introdotte in Red Hat AI 3, in particolare per agentic AI e Model Context Protocol (MCP). Man mano che le aziende adottano l’AI agentica, disporre di modelli affidabili e sicuri diventa ancora più importante, dato il ruolo complesso e autonomo degli agenti AI e il loro potenziale impatto sui sistemi aziendali principali.