OpenAI, la compagnia a cui si deve il popolare chatbot ChatGPT, ha presentato una versione "lite" di GPT-4o, il suo modello generativo piรน performante. Si tratta di GPT-4o mini, un nuovo LLM (Large Languade Model) che ha la caratteristica di essere piรน piccolo e di consumare un minor numero di token pur garantendo prestazioni elevate.
Tenendo conto dei risultati relativi ai benchmark MMLU (Massive Multitask Language Understanding) GPT-4o mini risulterebbe piรน potente rispetto GPT-3.5 Turbo anche se meno prestante rispetto al "fratello maggiore" di cui rappresenta una variante. I suoi risultati sarebbero inoltre migliori rispetto a quelli di Gemini 1.5 Flash e Claude 3 Haiku.
Introducing GPT-4o mini! Itโs our most intelligent and affordable small model, available today in the API. GPT-4o mini is significantly smarter and cheaper than GPT-3.5 Turbo.https://t.co/sqJsFEYHWq pic.twitter.com/g6jMttp1mF
โ OpenAI Developers (@OpenAIDevs) July 18, 2024
Anche in questo caso parliamo di un modello multimodale, quindi in grado di gestire diverse tipologie di contenuti, per il momento sono perรฒ previsti dei limiti e i prompt formulati dagli utenti potranno contenere soltanto testi e immagini, stesso discorso per gli output. Per quanto riguarda i video e gli audio si dovrร attendere ancora qualche tempo.
Per quanto riguarda i consumi, fondamentali per gli sviluppatori che interagiscono con il servizio tramite le API (Application Programming Interface) di OpenAI, GPT-4o mini garantisce una finestra di contesto da 128 mila token. Un milione di token in ingresso costano 0.15 dollari mentre si pagheranno 0.60 dollari per un milione di token in uscita.
GPT-4o mini potrร essere utilizzato da subito anche dagli utenti di ChatGPT con account standard, in sostituzione di GPT-3.5 Turbo. Si tratta in ogni caso di un LLM che molto probabilmente รจ stato implementato per gli sviluppatori, in particolare per quelli che potrebbero rivolgersi ad altri modelli con lโintenzione di spendere meno per lโuso delle interfacce.