Tytuł zgodny z prawem nagłówków Betteridge’a i kontrowersyjny, bo jak to przecież wychodzą teraz najwspanialsze modele, ale mam jakoś wrażenie że na poważnie banieczka już spuchła do granic możliwości.
Firmy ewidentnie wkurzyły się że dopłacają miliony dziennie i zaczęły chcieć w końcu monetyzować AI - ceny tokenów rosną, limity dzienne darmowych i płatnych planów ciągle maleją. ChatGPT pozwala tylko na 10 wiadomości na 5h, zawsze byłem w stanie cały dzień chatować po kilkanaście / kilkadziesiąt razy z darmowym copilotem który miał znacznie wyższe limity, ale od wczoraj? Limit dzienny wyczerpany po... 3 wiadomościach! To samo dzisiaj, więc to nie przypadek choć nigdzie nie mogę znaleźć oficjalnego info o tym jakie są teraz limity. Wygląda na to że zmienili i limit jest teraz wyrażony w tokenach.
Nie czuję żeby LLMy dostarczały mi tyle wartości żebym był w stanie za nie płacić tyle co za netfliksa, jak już mam za to płacić to wolę wygooglować, AI i tak nie da się zaufać i ostatecznie to co mi wypluje muszę w większości potwierdzać w google lub potwierdzać obliczenia samemu. Dobre jedynie do estymowania i naprowadzania.
Z kodowaniem było trochę inaczej, było to warte tych $10-$20 miesięcznie. W pracy jak już wspominałem mamy od paru tygodni bezwzględny przymus korzystania z AI do wszystkiego, przy czym miesięczny budżet per team został ustalony na $10,000 - dziś mieliśmy 10 lipca i mamy wykorzystane 95% miesięcznego budżetu, podobnie jak wszystkie inne teamy. Wygląda na to że od wtorku przyszłego tygodnia już nie będziemy mieli dostępu do AI i czeka nas rozmowa z managerem żeby jednak oszczędzać tokeny. Czy dowiozłem więcej niż dowiózłbym bez AI? Raczej nie, wręcz przeciwnie, zazwyczaj dowoziłem co najmniej 1 taska dziennie, AI mi tak zamącił że nad jednym taskiem siedziałem 3 dni i trzeciego dnia zmartwychwstałem musiałem już uruchomić własne zasoby szarych komórek, ale miałem na pewno więcej czasu dla siebie i swoje pet projekty ;)
Wypuszczają nowe modele - Fable, Sol - super tylko że są dwa razy droższe. Czy są dwa razy lepsze? Nie. W benchmarku ilość rozwiązanych zadań z githuba wzrosła z 70% na 80%. AI potrafi rozwiązać 70% zadań? Nieźle... Muszę przyznać faktycznie AI rozwiązuje 2/3 zadań, ale to w jaki sposób to robi jest już wątpliwe. Ile z tych 70% PRów przeszłoby code review 5 lat temu? Myślę że poniżej 10%. Jak tak mierzyć to większość juniorów potrafi rozwiązać 100% zadań, tylko lepiej nie zaglądać do kodu.
AI nie potrafi udowodnić swojej wartości, nie ma potwierdzonych wzrostów produktywności w firmach pracujących z legacy, niektóre raporty mówią nawet o jej spadku, tworzy obecnie miliony linijek kodu o których nikt nic nie wie, niektóre firmy wracają do zatrudniania ludzi, bo okazuje się tańsze.
Takie tam wysrywy, tak naprawdę chciałem się tylko wyżalić że darmowy copilot wypadł z rynku. A im więcej osób zacznie mieć wątpliwości tym prędzej życzenie stanie się rozkazem ;)
Ale na poważnie - o ile AI prawdopodobnie przetrwa w firmach, to wszystko wskazuje na to że stanie się nieosiągalny dla zwykłego człowieka. Era darmowego i półdarmowego doradzania się AI do którego się przyzwyczailiśmy zdaje się dobiegać końca. Oczywiście zawsze można wydać kilkanaście tysięcy na własny sprzęt żeby uruchomić upośledzony darmowy model lokalnie - tego nikt już nie zablokuje.
