Agenti IA negli auricolari, sempre in ascolto per un’assistenza sensibile al contesto

Un team di ricercatori dell’Università del Michigan e dell’Università di Fudan ha presentato Buddie, un sistema di auricolari open-source abilitati all’IA, progettato per migliorare le interazioni basate sulla voce incorporando la consapevolezza del contesto.

Buddie utilizza una compressione ad alta efficienza energetica per ridurre il consumo di energia durante l’ascolto continuo. Guidato dal Professore di Ingegneria Elettrica e Informatica Robert Dick, il progetto ha lanciato una campagna Kickstarter il 23 dicembre per rendere la tecnologia disponibile a consumatori e sviluppatori.

Buddie combina auricolari e un’app per smartphone per creare un’interfaccia vocale in grado di comprendere il contesto conversazionale. Il sistema ascolta le conversazioni per raccogliere informazioni di base, permettendo agli assistenti AI di fornire risposte più accurate. Ad esempio, potrebbe richiamare un nome recentemente menzionato o riassumere i compiti da un incontro.

Secondo Dick, la consapevolezza del contesto affronta una significativa limitazione nei sistemi AI attuali, che spesso richiedono agli utenti di fornire ripetutamente informazioni di base. Buddie mira a semplificare queste interazioni permettendo agli assistenti AI di accedere al contesto necessario.

Gli auricolari Buddie offrono l’integrazione dell’IA nella vita quotidiana, trasformando ChatGPT o altri agenti dell’IA in un assistente personale sensibile al contesto. Ascoltando continuamente, Buddie fornisce ai sistemi AI il contesto di cui hanno bisogno per fornire risposte personalizzate senza che gli utenti debbano spiegare ripetutamente la loro situazione.

Questa interazione a mani libere supporta la comunicazione vocale, garantendo che gli utenti possano interagire con l’IA in qualsiasi momento e luogo. Buddie include auricolari intelligenti e un’app mobile open-source per iOS e Android, che supporta agenti AI come ChatGPT. Sono disponibili anche servizi premium di terze parti opzionali, che permettono agli utenti di personalizzare la loro esperienza.

Progettato per il lavoro e l’uso personale, Buddie mira a migliorare la produttività trascrivendo e riassumendo riunioni, catturando elementi d’azione e fornendo suggerimenti rapidi e pertinenti durante le conversazioni.

Ad esempio, se il tuo capo menziona una parola sconosciuta, Buddie fornisce rapidamente la sua definizione. Si integra con varie piattaforme di riunioni, tra cui Zoom e Microsoft Teams, offrendo supporto per diversi stili di comunicazione.

Oltre all’ambiente di lavoro, Buddie aiuta nella vita quotidiana apprendendo le preferenze dell’utente e offrendo suggerimenti personalizzati. Fornisce riepiloghi giornalieri per riflettere sulle realizzazioni, tenere traccia delle attività e evidenziare momenti significativi.

I ricercatori affermano che gli auricolari Buddie sono progettati per salvaguardare la privacy dell’utente fornendo al contempo una consapevolezza del contesto alimentata dall’IA. I dati audio vengono catturati e trasmessi senza fili all’app per smartphone Buddie, dove vengono trascritti in testo ed eliminati entro pochi secondi.

Le trascrizioni sono criptate e memorizzate localmente sul dispositivo dell’utente, prevenendo l’accesso non autorizzato. I dati non vengono trasmessi a server remoti a meno che l’utente non lo richieda esplicitamente. Per coloro che scelgono di utilizzare servizi AI di terze parti

la capacità di ascolto continuo di Buddie presenta anche sfide tecniche, in particolare nel consumo energetico. Per affrontare questo, gli auricolari utilizzano tecniche di compressione ad alta efficienza energetica per ridurre lo sforzo sulle batterie.

L’approccio open-source del progetto incoraggia utenti e sviluppatori a esplorare nuove applicazioni, modificare il software e contribuire al suo sviluppo. Buddie è disponibile al costo di 40 dollari per i primi sostenitori.

Tuttavia, per quanto innovativo possa essere il design consapevole del contesto di Buddie, evidenzia crescenti preoccupazioni nel dominio della cybersecurity. Gli esperti di cybersecurity presso Morphisec avvertono che gli aggressori stanno sempre più sfruttando i sistemi AI generativi per sfruttare capacità avanzate come quelle trovate nei dispositivi consapevoli del contesto.

Ad esempio, le tecniche di estrazione del modello potrebbero potenzialmente essere utilizzate per fare l’ingegneria inversa ai sistemi di intelligenza artificiale, imitando il loro comportamento per ottenere informazioni non autorizzate o lanciare attacchi sofisticati.

La capacità di ascolto continuo di Buddie solleva anche interrogativi riguardo a vulnerabilità come gli attacchi di iniezione di prompt. Manipolando i prompt di un sistema di intelligenza artificiale, gli aggressori potrebbero potenzialmente costringerlo a generare output dannosi o non intenzionali, come riportato da Morphisec.

Modelli avanzati di intelligenza artificiale, simili a quelli che consentono la funzionalità consapevole del contesto di Buddie, possono creare sollecitazioni adattive, oltrepassando i filtri per identificare strategie di attacco di successo, afferma Morphisec.

Le future iterazioni di Buddie mirano a migliorare le funzionalità di privacy, incorporare intelligenza a bordo e fornire opzioni per la selezione di sistemi di intelligenza artificiale con politiche di protezione dei dati più forti. Per ora, l’attenzione rimane concentrata sul perfezionamento delle interazioni basate sull’audio e sulla comprensione del potenziale dell’intelligenza artificiale consapevole del contesto nell’uso quotidiano.