Microsoft zapowiada nową linię małych modeli językowych AI
-
- Janusz Chustecki,
- 24.04.2024, godz. 12:14
Walka na modele językowe AI trwa na dobre. Microsoft uznał, że użytkownicy poszukują nie tylko silnych modeli – które można uruchamiać tylko na wydajnych systemach obliczeniowych – ale również mniej zaawansowanych i wymagających rozwiązań tego typu. Dlatego zaprezentował wczoraj Phi-3 Mini, czyli model AI klasy podstawowej.
Ma to by pierwszy z trzech małych modeli AI, który Microsoft wprowadzi do oferty w najbliższych miesiącach. Model Phi-3 ostał przeszkolony z użyciem 3,8 miliarda parametrów i jak zapewniają jego twórcy, może z powodzeniem rywalizować z modelem GPT-3.5. Kolejne modele noszą nazwy Phi-3 Small i Phi-3 Medium. Pierwszy ma być przeszkolony z użyciem 7 miliardach parametrów, a drugi 14 miliardów parametrów. To niewiele biorąc pod uwagę fakt, że zapowiadany przez Metę model Llama 3 ma być przeszkolony przy użyciu 700 miliardów parametrów.
W trzeba wiedzieć, że siła każdego modeli AI zależy przede wszystkim od tego, jak wiele parametrów brało udział w jego szkoleniu. Wszystkie zapowiadane modele Phi- 3 nie pretendują to roli prymusów, ale świetnie nadają się do smartfonów i innych urządzeń, których moc obliczeniowa jest niewielka. Microsoft będzie je na pewno używać w swoich urządzeniach mobilnych wspierających AI, które mają ograniczona moc obliczeniową. Microsoft twierdzi, że pomimo ograniczonej mocy, Phi-3 Mini radzi sobie całkiem dobrze, choć nie dorównuje takim modelom, jak GPT-4 czy GPT-4 Turbo.
Zobacz również:
