Podsumowanie rozwoju AI...

... w tym komentarzu dość tęgiej głowy:

Url ze screena:

A Dragan to nie mówił, że twórcy AI, a dokładnie LLMów nie wiedzą jak działa i dlaczego podejmuje takie, a nie inne decyzje, więc jest to ogromne zagrożenie, dzięki czemu stał się ulubieńcem foliarzy i januszy w komentarzach?

ten koleś nakręca(ł) strach przed ej aj od lat. trzeba traktować jego opinie z dużym dystansem. no i gdyby ludzie się go czepiali jego przewidywań i alarmistycznych sugestii, tak jak np tych elona muska, to byłby już wyzywany od idiotów. polecam oddzielić fakty od opinii w jego wypowiedziach i oceniać je niezależnie.

W kontekście AI to jest taki Ator z tytułem. Mówi bardziej jak pisarz sci-fi, który nie zrobił porządnego researchu. Jako naukowiec powinien wiedzieć, że jego fatalistyczne przekonania są jedynie predykatem przyszłości której nie da się przewidzieć i istnieje równie wielkie prawdopodobieństwo, że AI rozwinie się tylko w dobrym kierunku a nie złym. Natomiast tego nie mówi. Ciekawe czemu :)

Dodatkowo te jego „zagadki” bardzo słabo pasowały ogólnie do llm-ów, bo nie douczył się jak model tokenizuje prompty (to samo jak dawaliśmy kiedyś chatu prompta 2+2 a on zwracał nam 5). Zapomniał żeby dodać do prompta prośbę o „chain of thoughts” i wtedy llm radziłby sobie nagle z jego problemami. Później właśnie dodano tą funkcjonalność domyślnie i nagle poziom wzrósł parę lat … Co też jest śmieszne że gość ocenia wiek (co to jest za metryka?) na podstawie paru promptów xD.
Szkoda czasu, zrobił się z niego polski Avi Loeb.

Natomiast w kontekście fizyki teoretycznej i astronomii to top i bardzo polecam.

@bakunet: z Andrzejem Draganem mam taki problem, że ewidentnie poczuł parcie na szkło. On się nie zajmował ani sieciami neuronowymi, ani też modelami językowymi, po prostu wskoczył do wagonika AI w momencie, kiedy temat stał się nośny.

Nie ujmuję mu nic jako naukowcowi, ale jako komentatorowi ds. AI ujmuję sporo.

@1programmer: ogólnie to miał rację z tym, że nikt nie rozumie dlaczego duże sieci działają jak działają - bo to jest fakt. Tylko to przedstawianie tego jako jakiegoś odkrycia to jest właśnie sprawa, która śmieszy.

Wibowit napisał(a):

ten koleś nakręca(ł) strach przed ej aj od lat. trzeba traktować jego opinie z dużym dystansem. no i gdyby ludzie się go czepiali jego przewidywań i alarmistycznych sugestii, tak jak np tych elona muska, to byłby już wyzywany od idiotów. polecam oddzielić fakty od opinii w jego wypowiedziach i oceniać je niezależnie.

Ale we wklejonym poście jest stwierdzenie faktu

wartek01 napisał(a):

@bakunet: z Andrzejem Draganem mam taki problem, że ewidentnie poczuł parcie na szkło. On się nie zajmował ani sieciami neuronowymi, ani też modelami językowymi, po prostu wskoczył do wagonika AI w momencie, kiedy temat stał się nośny.

Ja kojarzę jedynie jego spotrzeżenia że zdolności AI się rozwija szybciej niż jego dziecka. Na tej podstawie tworzy tezy które można próbować podważać. Nie wydaje mi się by się wypowiadał na tematy techniczne. We wklejonym tekście wypowiada się w kontekście kształcenia nowych pokoleń fizyków, co jest całkiem ciekawe.

Nie mam zamiaru bronić jego wypowiedzi jak Westerplatte. Choć czepiacie się gościa za stwierdzenie faktu dość oczywistego, który na przestrzeni lat się wydarza. Ale kim ja jestem by to oceniać?

bakunet napisał(a):

Wibowit napisał(a):

ten koleś nakręca(ł) strach przed ej aj od lat. trzeba traktować jego opinie z dużym dystansem. no i gdyby ludzie się go czepiali jego przewidywań i alarmistycznych sugestii, tak jak np tych elona muska, to byłby już wyzywany od idiotów. polecam oddzielić fakty od opinii w jego wypowiedziach i oceniać je niezależnie.

Ale we wklejonym poście jest stwierdzenie faktu

są stwierdzenia faktów i są też opinie i alarmistyczne sugestie. podobnie zresztą jak w szeregu innych jego wypowiedzi. gdyby operował tylko twardymi faktami i podawał źródła, to byłby nudny, bo balona by tak nie napompował.

wartek01 napisał(a):

@bakunet: z Andrzejem Draganem mam taki problem, że ewidentnie poczuł parcie na szkło. On się nie zajmował ani sieciami neuronowymi, ani też modelami językowymi, po prostu wskoczył do wagonika AI w momencie, kiedy temat stał się nośny.

Ja kojarzę jedynie jego spotrzeżenia że zdolności AI się rozwija szybciej niż jego dziecka. Na tej podstawie tworzy tezy które można próbować podważać. Nie wydaje mi się by się wypowiadał na tematy techniczne. We wklejonym tekście wypowiada się w kontekście kształcenia nowych pokoleń fizyków, co jest całkiem ciekawe.

Nie mam zamiaru bronić jego wypowiedzi jak Westerplatte. Choć czepiacie się gościa za stwierdzenie faktu dość oczywistego, który na przestrzeni lat się wydarza. Ale kim ja jestem by to oceniać?

moja siostra jest nauczycielką angielskiego i wie jakie są realia nauki dzieci w dobie ej aj już od de facto lat. trzeba po prostu zmienić sposób oceniania, żeby bezsensownie nie oceniać treści wyplutych przez czatbota. tymczasem nadal mamy dzieci uczące się lepiej i gorzej i można spokojnie je odsiać różnymi testami. wcale się system oceniania nie załamuje, tylko nauczyciele muszą się dostosować. moja siostra także nadal, tak jak od zawsze, ma ambicję by uczyć dzieci na wysokim poziomie. nadal daje to efekty i nadal dzieci uczone przez nią mają dużo lepsze wyniki, niż dzieci uczone przez typowe nauczycielki wyrabiające minimum, przynajmniej z pozoru akceptowalne. ej aj tu nic nie zmieniło.

ja odnoszę się do ogólnej 'twórczości' dragana w kontekście komentowania ej aj. ten jego post to tylko jeden przypadek, ale chciałem tylko zwrócić uwagę, że nie jest on żadnym autorytetem w dziedzinie ej aj, a za to raczej pompuje balon i też swoją popularność.

Z tymi problemami sie nie zgodze, wrzucasz mu pierwsza lepsza Jire i nie ogarnie sam od A-Z :P

"The craziest thing
about the AI bubble is that everyone is talking about something that doesn't exist. They're like, "Oh, it's changing
software. It could do." No, it's not. It's helping. It is helping some coders do some things and it's giving brain
damage to many of them, making it impossible for them to write code anymore without having a chatbot that is
not writing good code, but they don't know what good code looks like anymore because they haven't written it for a while. "

Scenariusz z dziś. Aplikacja Flutter Desktop na Linux, miała wyświetlać tray icon z pod nią menu na prawy click ikony, a lewy click miał podnieść aplikacje z tła i pokazać jej okno. Wszystkie aplikacje tak robią, na Linux też. Problem w tym, że każda we Flutterze wyświetla memu i po kliknięciu prawym i lewym przyciskiem myszy.

Claude Opus 5 w trybie Ulracode dostał zadanie doprowadzić do tego aplikacje Flutter. Co zrobił po kolei:

• sprawdził api wtyczki Fluttera i zauważył że nie ma zdarzenia odróżniającego prawym i lewy click
• sprawdził źródła tej wtyczki i stwierdził że nie da się tego tam dodać, bo korzysta z jakiegoś prostego api na Linux, które tego nie da
• sprawdził źródła tego api systemowego i źródła KDE by się upewnić
• zauważył, że na moim systemie działa aplikacja Teams dla Linuksa - nieoficjalny klient na Electron i tam ikona działa jak trzeba
• znalazł jej źródła na Githubie i stwierdził że aplikacja nic szczególnego nie robi, Electron daje na to gotowe api
• znalazł na Githubie źródła Electrona i kod odpowiadający za tray icon, czego używa do pokazania ikony obsługi menu, dowiedział się tego
• zaczął szukać na Githubie wtyczek Fluttera które też tego używają
• znalazł jedną, porzuconą 3 lata temu
• zrobił forka, dostosował do najnowszego Fluttera
• wygenerował minimalną aplikacje testująca ten lib, uruchomił ją i kazał mi klikać w ikonę prawym i lewym przyciskiem do czasu aż wykryje eventy, okazało się że ten porzucony lib ma błąd i nie działa, poprawił kod i wygenerował PR do autora liba, który mogę zgłosić jeśli zechce. W międzyczasie sprawdził jeszcze kilka rzeczy w Electronie np jak podać dynamicznie ikonę (to nieoczywiste, bo normalnie trzeba mieć ją zarejestrowana w systemie używając tego api)
• fork został dodany do mojego projektu
• napisał zestaw testów na te przypadki

Problem rozwiązany.

Co zrobił Gemini 3.1 pro głębokie myślenie w Antygravity:

• wygenerował coś co się nawet nie kompiluje
• wkleiłem mu błąd, poprawił i skomplikowało się
• oczywiście dalej nie było rozróżnienia między prawym i lewym click, zgłosiłem to
• poprawił, kod przestał się kompilować
• znów kazałem mu poprawić, dalej działa po staremu
• stwierdził że wszystko jest dobrze i działa tak jak trzeba, kazał mi sprawdzić czy nie mam uszkodzonego systemu
• stwierdziłem że nie, inne aplikacje działają
• poprawił, menu przestało się w ogóle wyświetlać, i prawy i lewy click podnosił aplikacje od razu. Zgłosiłem mu to, znów kod przestał się kompilować
  Dalej już odpuściłem.

To tak aby pokazać jak daleko Claude jest obecnie przed konkurencją.

Problem rozwiązany.

Pytanie, czy w optymalny sposób? Ogólnie mobilki to nie moja działka, ale piszesz, że forkował porzuconą aplikację, co będzie wymuszać dystrybucję nieaktywnego kodu; czy fork nie popsuje innych funkcjonalności (otestował tylko to, co potrzebował)? Inna sprawa:

zauważył, że na moim systemie działa aplikacja Teams dla Linuksa - nieoficjalny klient na Electron i tam ikona działa jak trzeba

Od tego się zaczęło. Czyli przypadek zdecydował, że LLM poszedł tą ścieżką i na siłę próbował znaleźć rozwiązanie, doprowadzając do forka nieaktywnego kodu. Ja rozumiem, że problem rozwiązany i biznesu to nie interesuje jak, ale to programista jest fachowcem i powinien zweryfikować alternatywne scenariusze, które mogły być prostsze/wymagały mniej zmian.

Ostatnio testowałem modele wizyjne pod kątem odczytywania napisów ze zdjęć. Modele zwracały różne wyniki dla tej samej próbki zdjęć. Taki output trzeba w jakiś sposób otestować, zweryfikować, by wybrać najlepszy model, a i tak trzeba mieć z tyłu głowy, że dany wynik to niejako trochę strzał - nawet jeśli wybierze model dający najlepsze wyniki.

Nie zrozumiałeś. Ktoś kiedyś próbował rozwiązać ten sam problem, zrobił do tego bibliotekę która jest w repo. Nie bardzo wyszło, została porzucona 3 lata temu. Claude ją sam znalazł, poprawił to co autorowi się nie udało i zrobił forka. Innej nie ma - można było jeszcze wszystko robić od zera samemu.

Czemu znalazł Teams? Bo mu napisałem: no ale inne apki potrafią, szukaj jak to robią np Teams na Electronie jest open source. To sprawdź jak to jest że Electron potrafi a Flutter nie. To nie jest tak że się nie da. Dokopał się do źródeł Electrona i źródeł Linuksa żeby sprawdzić jak to działa i w czym problem