Microsoftu nie stać na korzystanie z AI Microsoftu
Microsoft nakłada ograniczenia na pracowników w kwestii wykorzystywania AI. Dodatkowo muszą się oni przerzucić na tańszy model językowy. Wszystko z powodu ograniczania kosztów przez giganta.
AI miało odebrać ludziom pracę jako rozwiązanie sprawniejsze i tańsze. Problem w tym, że wciąż popełnia rażące błędy i musi być kontrolowane przez ludzi, a zamiast być tańszą opcją od człowieka staje się coraz droższe z powodu rosnących kosztów korzystania z modeli językowych. I trudno się temu dziwić: ciągła rozbudowa centrów danych i ich utrzymanie nie są tanie a branża i tak jest ciągle na minusie. Siłą rzeczy jednak coraz więcej firm ogranicza wykorzystanie AI, a do tego grona dołączył właśnie Microsoft.
Microsoft chce ograniczyć koszty AI
Serwis 404media dotarł do wewnętrznej wiadomości e-mail w Microsofcie. Firma zaleca w nim inżynierom ograniczenie korzystania z narzędzia GitHub Copilot, ponieważ to generuje zbyt wysokie koszty. Jak możemy przeczytać w wytycznych:
(...) wielu inżynierów wydaje od kilkuset do kilku tysięcy dolarów miesięcznie na tokeny (...)
Tu warto podkreślić, że GitHub Copilot należy do Microsoftu. I chociaż ten bazuje na technologiach opracowanych przez OpenAI, to jest uruchamiany na serwerach Microsoftu. Mówimy więc nie o zakupie tokenów od firmy zewnętrznej, a o kosztach wygenerowanych przez zużycie zasobów przez sam Microsoft.
W związku z tym pojawił się apel o zmniejszenie zużycia tokenów podczas pracy, a każdy dział będzie miał ich ograniczony budżet na dany projekt. Dodatkowo firma przechodzi na model OpenAI GPT-5.6, który ma mniejszy apetyt na zasoby, oczywiście kosztem dokładności, względem dotychczas stosowanego. Jak przekazał w komentarzu dla serwisu 404media anonimowy pracownik Microsoftu, który stoi za tym przeciekiem:
To dla mnie bardzo wymowne, że firma, która tak mocno zainwestowała w sztuczną inteligencję i dofinansowała tak wiele procesów wnioskowania AI, teraz nakłania swoich pracowników do ograniczania wydatków. To naprawdę brzmi jak ostateczne przyznanie się do tego, że my, jako dostawcy infrastruktury AI, nie stać nas na własne produkty AI. A jeśli jest tak choć częściowo, to jak firmy, którym ją sprzedajemy, mogłyby sobie na to pozwolić?