Microsoft antrenează un AI ce va concura cu LLM-urile populare

Microsoft dezvoltă un nou model de limbaj mare (LLM) denumit MAI-1, care are potențialul de a concura cu LLM-urile AI dezvoltate de Google și OpenAI. Este pentru prima dată când Microsoft dezvoltă un LLM de această dimensiune, după investirea a miliarde de dolari în OpenAI pentru a obține dreptul de a implementa tehnologia în software-urile sale de productivitate.

Dezvoltarea modelului MAI-1 este supravegheată de Google DeepMind și cofondatorul Inflection, Mustafa Suleyman, conform unui raport publicat de The Information. În martie 2024, mai mulți angajați ai companiei Inflection s-au mutat la Microsoft după o tranzacție în valoare de 650 de milioane de dolari.

Conform raportului publicat pe 6 mai, MAI-1 va avea aproximativ 500 de miliarde de parametri, plasându-se între parametrii de 1 trilion ai modelului GPT-4 de la OpenAI și parametrii de 70 de miliarde ai modelului Meta Llama 3 AI. Se așteaptă ca acest model să fie „mult mai mare” și mai scump decât AI-urile open-source de la Microsoft (Phi-3 și WizardLM-2), deoarece necesită mai multe date și putere de calcul.

Deși MAI-1 poate valorifica tehnicile și datele de la Inflection, este diferit de orice model sau tehnologie produsă de OpenAI sau Inflection. Conform angajaților Microsoft familiarizați cu proiectul, MAI-1 este un LLM complet nou dezvoltat de Microsoft pe plan intern.

Microsoft nu a anunțat încă scopul exact al modelului MAI-1, iar utilizarea sa va depinde de performanță. Compania a alocat un cluster uriaș de servere cu unități de procesare grafică Nvidia și folosește cantități mari de date din diverse surse pentru a îmbunătăți modelul.

Conform rapoartelor, în funcție de progres, compania ar putea prezenta MAI-1 la conferința dezvoltatorilor Build din această lună, dar acest lucru nu a fost deocamdată confirmat.