Atlas Vector Search ottiene il massimo NPS degli sviluppatori nel sondaggio Retool State of AI 2023

Retool ha appena pubblicato il primo rapporto sullo stato dell'IA e vale la pena leggerlo. Modellato sul rapporto State of Internal Tools, che ha riscosso un enorme successo, il sondaggio State of AI ha raccolto le opinioni di oltre 1.500 persone che operano nel settore tecnologico, tra cui ingegneri del software, dirigenti, product manager, designer e altri operatori provenienti da diversi settori. Lo scopo del sondaggio è capire come questi esperti di tecnologia utilizzano e sviluppano con l'intelligenza artificiale (AI).

Nell'ambito del sondaggio, Retool ha analizzato gli strumenti più diffusi, compresi i database vettoriali utilizzati più frequentemente con l'IA. Il sondaggio ha rilevato che MongoDB Atlas Vector Search ha ottenuto il Net Promoter Score (NPS) più alto ed è stato il secondo database vettoriale più utilizzato, a soli cinque mesi dalla release. Ciò lo colloca in vantaggio rispetto alle soluzioni concorrenti in circolazione da anni.

In questo articolo del blog esamineremo l'incremento fenomenale dei database vettoriali e come gli sviluppatori utilizzano soluzioni come Atlas Vector Search per creare applicazioni basate sull'intelligenza artificiale. Tratteremo anche di altri punti salienti del rapporto Retool.

Adozione di database vettoriali: molto diffusa (beh quasi...)

Dalla curiosità matematica al superpotere che si basa sull'IA generativa e gli LLM, gli incorporamenti di vettori e i database che li gestiscono hanno fatto molta strada in poco tempo.

Dai un'occhiata alle tendenze di DB-Engines nei modelli di database negli ultimi 12 mesi e scoprirai che la popolarità dei database vettoriali è ben superiore a quella di tutti gli altri. Basta guardare la traiettoria "in alto e a destra" della linea rosa nel grafico qui sotto.

Ma perché i database vettoriali sono diventati così popolari?

Sono un componente chiave in un nuovo modello architettonico detto generazione potenziata da recupero, altrimenti nota come RAG, un potente mix che combina le capacità di ragionamento di LLM pre-addestrati e di uso generale e fornisce loro dati specifici dell'azienda in tempo reale. I risultati sono app alimentate dall'IA che servono in modo unico l'azienda, che si tratti di creare nuovi prodotti, di ripensare l'esperienza dei clienti o di portare la produttività e l'efficienza interne a livelli mai raggiunti in precedenza.

Gli incorporamenti vettoriali sono uno dei componenti fondamentali necessari per sbloccare la potenza della RAG. I modelli di incorporamento vettoriale codificano i dati aziendali, indipendentemente dal fatto che si tratti di testo, codice, video, immagini, flussi audio o tabelle, come vettori. Questi vettori vengono quindi archiviati, indicizzati e interrogati in un database vettoriale o in un motore di ricerca vettoriale, fornendo i dati di input pertinenti come contesto per il LLM scelto. Il risultato sono app IA basate su dati e conoscenze aziendali pertinenti per il business, accurate, affidabili e aggiornate.

Come mostra l’indagine Retool, il panorama dei database vettoriali è ancora in gran parte inesplorato. Oggi, meno del 20% degli intervistati utilizza database vettoriali, ma con la crescente tendenza alla personalizzazione dei modelli e dell'infrastruttura di IA, l'adozione è destinata a crescere.

Perché gli sviluppatori stanno adottando Atlas Vector Search?

L'indagine State of AI di Retool presenta alcuni grandi database vettoriali che hanno innovato negli ultimi due anni, soprattutto nelle applicazioni che richiedono una ricerca semantica consapevole del contesto. Pensiamo ai cataloghi di prodotti o alla individuazione di contenuti.

Tuttavia, la sfida che gli sviluppatori devono affrontare nell'utilizzo di questi database vettoriali è che devono integrarli insieme ad altri database nello stack tecnologico della loro applicazione.

Ogni ulteriore livello di database nello stack tecnologico dell'applicazione aggiunge un'altra fonte di complessità, latency e costi generali operativi. Ciò significa che è presente un altro database da approvvigionare, apprendere, integrare (per sviluppo, test e produzione), proteggere e certificare, scalare, monitorare e del quale eseguire il backup, mantenendo i dati sincronizzati su questi diversi sistemi.

MongoDB adotta un approccio diverso che evita completamente queste sfide:

• Gli sviluppatori memorizzano e cercano incorporamenti vettoriali nativi nello stesso sistema utilizzato come database operativo.

• Utilizzando l'architettura distribuita di MongoDB, è possibile isolare questi diversi carichi di lavoro, mantenendo i dati completamente sincronizzati.

• I Search Nodes forniscono un isolamento dedicato dell'elaborazione e del carico di lavoro, fondamentale per i carichi di lavoro di ricerca vettoriale ad alta intensità di memoria, consentendo così un miglioramento delle prestazioni e della disponibilità

• Con lo schema di documenti flessibile e dinamico di MongoDB, gli sviluppatori possono modellare e consentire l'evoluzione di relazioni tra vettori, metadati e dati delle applicazioni in modi non percorribili da altri database.

• Possono elaborare e filtrare i dati vettoriali e operativi in qualsiasi modalità richiesta dall'applicazione con un'API di query espressiva e driver che supportano tutti i linguaggi di programmazione più diffusi.

• L'utilizzo della piattaforma dati per sviluppatori MongoDB Atlas, completamente gestita, consente agli sviluppatori di ottenere la scalabilità, la sicurezza e le prestazioni che gli utenti delle loro applicazioni si attendono.

Cosa significa questo approccio unificato per gli sviluppatori? Cicli di sviluppo più rapidi, app con prestazioni più elevate che consentono una latency inferiore con dati più aggiornati, oltre a costi e costi generali operativi inferiori. Risultati che si riflettono nel punteggio NPS migliore della categoria di MongoDB.

Dai un'occhiata alla nostra serie di blog Building AI with MongoDB (vai alla sezione Introduzione per leggere i numeri precedenti). Qui vedrai Atlas Vector Search utilizzato per applicazioni GenAI che spaziano dall'IA conversazionale con chatbot e voicebot, ai copiloti, all'intelligence sulle minacce e alla cybersicurezza, alla gestione dei contratti, alla risposta alle domande, alla conformità sanitaria e agli assistenti terapeutici, alla scoperta fino alla monetizzazione dei contenuti e altro ancora.

Cosa puoi imparare sullo stato dell'IA dal rapporto Retool?

Oltre a scoprire i database vettoriali più popolari, l'indagine tratta dell'IA da una serie di prospettive. Inizia esplorando le percezioni degli intervistati sull'IA. (Non sorprende che C-suite sia più ottimista rispetto ai singoli autori). L'indagine analizza poi le priorità di investimento, l'impatto dell'IA sulle prospettive di lavoro future e il modo in cui probabilmente influenzerà gli sviluppatori e le competenze di cui avranno bisogno in futuro.

L'indagine esplora quindi il livello di adozione e maturazione dell'IA. Oltre il 75% degli intervistati dichiara che le proprie aziende si stanno impegnando per iniziare a utilizzare l'IA, ma circa la metà afferma che si tratta di progetti ancora agli inizi e principalmente orientati alle applicazioni interne. L'indagine prosegue esaminando le applicazioni e la loro utilità per l'azienda secondo gli intervistati. La ricerca ha rilevato che quasi tutti utilizzano l'IA sul lavoro, indipendentemente dal fatto che siano autorizzati, e ha individuato i principali punti critici. Non sorprende che i più citati siano l'accuratezza, la sicurezza e le allucinazioni dei modelli.

L'indagine si conclude con l'esplorazione dei principali modelli in uso. Ancora una volta non sorprende che le offerte di Open AI siano le preferite, ma indica anche la crescente intenzione di utilizzare modelli open source insieme a infrastrutture e strumenti di IA per la personalizzazione in futuro.

Puoi approfondire tutti i dettagli del sondaggio leggendo il rapporto.

Introduzione ad Atlas Vector Search

Vuoi dare un'occhiata alla nostra offerta di ricerca vettoriale? Vai alla nostra pagina del prodotto Atlas Vector Search. Qui troverai i link ai tutorial, alla documentazione e alle principali integrazioni con l'ecosistema IA, in modo da poterti dedicare direttamente alla creazione di app alimentate da IA generativa.