używałeś kiedyś jakiegoś LLM bo brzmisz jakby nie
Chyba byłoby niestosowanie coś krytykować, nie mając z tym styczności, prawda? Pracuję w działce AI/ML, więc LLM-y są jednymi z narzędzi, których używam. Tworzę też software w oparciu o AI, więc nie jestem ograniczony do wyciągania informacji z danych, ale też łączę to z inżynierią oprogramowania. Nie chodzi o zwykłe klepanie tasków, raczej o dostosowywanie bardziej zaawansowanych rozwiązań matematycznych do danych. Tak, próbowałem pisać kod z LLM-ami, ostatecznie służą mi one jako szybka wyszukiwarka**.
przecież to tak nie działa i są w stanie rozwiązać nowe problemy stosując analogię do tego co już widziały - czyli dokładnie tak samo jak ludzie
Tylko nie wspomniałeś o tym, że one szukają korelacji czy analogii w przestrzeni osadzeń, która powstały na bazie tekstów. Przykład, przestrzeń osadzeń będzie inna w zależności od języka. Na przykład w angielskim masz token, który reprezentuje the i występuje dość często w danych treningowych. Czegoś takiego nie ma w innych językach. A procesy myślowo-poznawcze odnośnie rzeczywistości nie dotyczą języka, chyba że to jakaś antropologia. Wystarczy zauważyć, że niektórzy programiści, którzy jeszcze potrafią czytać książki, preferują tę samą książkę w języku angielskim niż polskim. Samo to już powinno skłonić do refleksji, że może opis świata generowany przez LLM-y zależy od języka i danych treningowych.
przecież LLMy właśnie zaczęły się same ulepszać.
Przecież wchodzimy na etap, że LLM lepiej ulepsza LLM niż sam czlowiek.
Możecie podać przykład? Bo jeśli macie na myśli chain-of-thought lub self-refine to one owszem ulepszają output modelu, natomiast model wciąż nie wychodzi poza zakres tego, co widział w danych treningowych. Te koncepty są stworzone po to, by pierwszy wygenerowany output poprawić, ponieważ LLM-y generują każdy kolejny token w oparciu o wszystkie wcześniejsze. Jak wejdzie na złą ścieżkę w hiperprzestrzeni, to wyprodukuje głupoty. Łatwiej mu się samemu poprawić, jeśli już jakiś ciąg tokenów istnieje. Model po prostu łatwiej trafia w odpowiedni obszar hiperprzestrzeni, jeśli ma już jakiś tekst, niż zrobiłby to za pierwszym razem mając tylko wejście od użytkownika.
On nie jest kreatywny i nie potrafi wyjść poza swoją przestrzeń, i w tym sensie moje twierdzenie o braku kreatywności jest nadal prawdziwe. Pisanie, że LLM-y same się ulepszają miałoby sens, gdyby LLM wygenerował odpowiedź, w jaki sposób stworzyć LLM-a, który będzie zmieniał swoje wagi w skutek długotrwałej inferencji. Czyli uczyłby się jak człowiek, poprzez doświadczenie. Takie ograniczenia są już dawno znane, choćby Yann LeCun pracuje nad architekturą JEPA, która ma to podejście zmienić i model ma się uczyć poprzez obserwacje świata, ale ma on też swoje limity wynikające z hierarchii komponentów, która w tej architekturze jest podstawą. Podsumowując, samo-ulepszenie modelu rozumiem jako propozycja nowej architektury, którą wygenerował LLM. Chain-of-thought czy self-refine to ulepszenia zaproponowane przez człowieka.
Ale to ludzie. A ludzie nie są za bardzo kreatywni. Możesz sobie poczytać w całym internecie .com.
Ludzie też nie są kreatywni ani twórczy co można zaobserwować w social mediach dzięki shortom / reelsom
Chyba piszecie o przeciętnym Kowalskim, ja mam na myśli specjalistów, którzy znają się na swojej pracy. Ludzie są bardziej kreatywni niż komputer. To co ma komputer, to duża moc obliczeniowa i dostęp do danych. I owszem, w tych danych można znaleźć coś, czego nie widać na pierwszy rzut oka. Zresztą tym się zajmują data scientists. Ale wciąż siedzimy w obrębie tych danych.
Podam przykład jak ludzie kreatywni, np. naukowcy, wychodzą poza zakres danych. Otóż poszukuje się nowych rozwiązań w oparciu o metodę naukową, która polega na testowaniu pewnych hipotez. I te hipotezy formułuje się na podstawie wiedzy i doświadczenia. Mogą mieć one dość mocne uzasadnienie, czasem są rozmyte, a czasem w ogóle nie widać związku, ktoś po prostu wpada na pomysł i mówi "sprawdźmy co się stanie jak zrobimy to i tamto, tak po prostu". Od wyniku eksperymentu zależy, czy hipoteza zostanie odrzucona, czy zostawiona. LLM będzie więc inteligenty, kiedy będzie rozwiązywał tego typu problemy, interpretował je i wykonywał. Agenty AI tego nie robią, pomimo że komunikują się ze światem zewnętrznym, to siedzą w latent space, który powstał w fazie treningu. Wagi się nie zmieniają.
** Najpierw mieliśmy wyszukiwarkę Yahoo opartą o słowa kluczowe. Można było znaleźć informacje, ale dość łatwo dało się ją oszukiwać. Potem był PageRank, który ważył strony. Dzięki temu można było łatwiej trafić na wartościową stronę o danej tematyce. Było to więc ułatwienie również dla programistów. Potem StackOverFlow. Czy to była dokumentacja, czy fragment kodu, każdy z nas to dostosowywał lub weryfikował do własnych potrzeb. Teraz są LLM-y. I warto z nich korzystać, odpowiedź jest jeszcze szybciej podana. Jednakże w tym przypadku również trzeba to zweryfikować, dostosować do swoich potrzeb. I nie, nie tylko review. Trzeba to odpalić i przetestować, ale nie na zasadzie, że zrobi to LLM. Nie ma się co łudzić, że dobrze uszyte pliki .md dowiozą wartość. No chyba że piszecie aplikacje typu CRUD dla kilkuosobowego działu HR.
