Microsoft ha annunciato GitHub Models, una piattaforma che consente a chiunque abbia un account GitHub di accedere gratuitamente a un set di modelli di IA e utilizzarli per sviluppare applicazioni..
"Ciò rende molto più semplice acquisire famigliarità con i modelli di IA senza dover creare Azure Resources o scaricare modelli da Hugging Face" specifica Lee Stott, Principal Cloud Advocate Lead di Microsoft.
Speriamo che CI UCCIDA PER ULTIMI? Matteo Flora sull'AI
GitHub Models si integra facilmente con i codespace e permette di utilizzare i modelli in locale; inoltre, è possibile passare da un provider di modelli all'altro utilizzando la stessa API tramite Azure AI inference API, senza dover modificare il codice dell'applicazione.
Ogni modello mette a disposizione un playground con del codice di esempio in un ambiente codespace dedicato, in Python, JavaScript o cURL. Tra i modelli attualmente disponibili nel marketplace ci sono diverse versioni di Cohere, Llama-3 da 8B e 70B, Llama-3.1-Instruct da 8B, 70B e 405B, Mistral Large, Mistral Nemo, GPT-4o e GPT-4o mini e i modelli Phi-3 di Microsoft.
Nella versione gratuita, l'utilizzo delle API è abbastanza contenuto, ma l'idea di Microsoft è appunto quella di creare un playground per sperimentare i modelli di intelligenza artificiale più noti, prendere familiarità con gli strumenti a disposizione e confrontare le performance.
In ogni caso, le applicazioni sviluppate sulla piattaforma possono essere portate direttamente in produzione utilizzando un token di un account Azure, senza dover cambiare nulla nel codice.