In un evento su LinkedIn con i top executive Edward Screven e Nipun Agarwa, Oracle ha annunciato HeatWave GenAI, un'integrazione per HeatWave che include - per la prima volta sul mercato - gli LLM in-database, un sistema di memorizzazione vettoriale automatizzato in-database, un'elaborazione vettoriale scale-out e la possibilità di avere conversazioni contestuali in linguaggio naturale basate su contenuti non strutturati.
Con la potenza dell'IA generativa, i clienti che usano HeatWave possono operare sui propri dati aziendali senza avere competenze di IA o senza dover spostare i dati su database vettoriali separati.
Gli sviluppatori possono ora creare un vector store per i contenuti aziendali non strutturati con un singolo comando SQL usando i modelli di embedding integrati. Gli utenti possono inoltre eseguire ricerche in linguaggio naturale, usando LLM in-database o esterni.
Con le nuove funzionalità di GenAI, i dati non lasciano il database e non è necessario eseguire il provisioning delle GPU; di conseguenza, gli sviluppatori possono ridurre la complessità delle applicazioni, aumentare le performance, migliorare la sicurezza dei dati e ridurre i costi.
"HeatWave conferma la sua straordinaria velocità di innovazione con l’aggiunta di HeatWave GenAI alle funzionalità integrate già esistenti: HeatWave Lakehouse, HeatWave Autopilot, HeatWave AutoML e HeatWave MySQL" ha dichiarato Edward Screven, chief corporate architect di Oracle. “Le nuove potenzialità dell’integrazione dell’intelligenza artificiale e dell’automazione consentono oggi agli sviluppatori di creare applicazioni di intelligenza artificiale generativa avanzate più rapidamente, senza aver bisogno di competenze di AI o di spostare i dati. Gli utenti ora hanno un modo intuitivo di interagire con i dati aziendali e di ottenere rapidamente le risposte accurate di cui hanno bisogno”.
Le funzionalità di HeatWave GenAI
Da oggi saranno disponibili nuove funzionalità, a cominciare dalla possibilità di usare gli LLM all'interno del database per semplificare lo sviluppo di applicazioni di GenAI, a un costo inferiore.
I clienti non si devono più fare carico della selezione e dell'integrazione di LLM esterni, senza preoccuparsi della disponibilità dei modelli nei datacenter nei fornitori di servizi cloud. Gli LLM in-database consentono di cercare dati, generare o riepilogare contenuti ed eseguire la retrieval-augmented generation con HeatWave Vector Store. Con AutoML è inoltre possibile creare applicazioni più ricche e con OCI GenAI i clienti possono accedere a modelli di base pre-addestrati dei principali provider di LLM.
Con il Vector Store in-database automatizzato è possibile usare la GenAI con i documenti aziendali senza spostare i dati in un database vettoriale e senza avere bisogno di conoscenze specifiche di IA.
La creazione di un vector store è totalmente automatizzata ed eseguita all'interno del database; ciò include la ricerca di documenti nell'object storage, la loro analisi, la generazione dell'embedding in parallelo e l'inserimento nel vector store.
La nuova versione di HeatWave supporta inoltre l'elaborare vettoriale scale-out per offrire rapidamente risultati di ricerca semantica. Il nuovo tipo di dati VECTOR nativo consente di implementare in maniera ottimizzata la funzione di distanza, permettendo agli utenti di eseguire query semantiche in linguaggio standard SQL-
La rappresentazione a colonne ibrida in-memory e l'architettura a scalabilità orizzontale consentono di eseguire l’elaborazione vettoriale a una larghezza di banda near-memory e di parallelizzare fino a un massimo di 512 nodi HeatWave; ciò permette agli utenti di ottenere rapidamente le risposte alle domande.
Infine, è disponibile anche HeatWave Chat, un plugin Visual Code per MySQL Shell che fornisce un'interfaccia grafica per HeatWave GenAI e permette agli sviluppatori di porre domande in linguaggio naturale o SQL.
Chat integra anche il Lakehouse Navigator integrato consente agli utenti di selezionare i file dallo storage a oggetti e creare una memoria vettoriale, oltre a eseguire ricerche nell'intero database o in una sola cartella. HeatWave mantiene il contesto con la cronologia delle domande poste, le citazioni dei documenti di origine e il prompt all'LLM per facilitare le conversazioni e verificare l'origine delle risposte generate dall'LLM.
HeatWave GenAI è disponibile subito in tutte le Oracle cloud region, nelle OCI - Oracle Cloud Infrastructure - Dedicated Region (DRCC, "Dedicated Region Cloud@Customer") e in vari altri cloud, senza costi aggiuntivi per i clienti che già utilizzano HeatWave.