Czy edytujecie kod ręcznie?

@anonimowy prujesz się jakby Twój własny honor zależał od tego, czy ktoś powie coś przychylnego czy jednak krytycznego na temat AI. Jakbyś co najmniej był twórcą tych narzędzi, jakbyś wymyślił LLMy lub był prezesem OpenAI.

Co ciekawe, ostatnio miałem sprzeczkę z kolegą, który miał równie silne reakcje na krytykę AI czy nawet same wątpliwości, czy konkretnie LLM jest wystarczającym rozwiązaniem by osiągnąć AGI.

Zastanawia mnie, skąd te reakcje. Zazwyczaj człowiek się z tym stykał w kontekście np. religijnym, słynne szkalowanie JPII itp. Czy to już jakaś forma uzależnienia emocjonalnego, które nie pozwala wam krytycznie spojrzeć na zwykłe narzędzie? Co sprawia, że powinniśmy otaczać je jakąś szczególną, religijną czcią i tłumić jakąkolwiek krytykę? O ile wiem, żaden z uczestników nie porwał się na wysadzanie w powietrze centrów danych. Spora część sceptyków, takich jak ja, nadal korzysta z tych narzędzi, choć podchodzi do nich z rezerwą.

Co stoi za tym, że powinniśmy traktować AI jak bożka, którego trzeba hołubić, oddawać mu cześć, a być może i składać ofiary (jak gdyby wspomniane wcześniej zasoby wodne nie były wystarczające), zamiast patrzeć na AI jak na kolejne narzędzie, które może i ma swój potencjał, i być może ma nadal potencjał rozwojowy, ale być może niekoniecznie w obecnej formie i może jednak nadal ma pewne ograniczenia?

Ta dziedzina liczy już sobie kilka dekad, przed LLM był deep learning, NLP, systemy ekspertowe, proste sieci neuronowe, i wiele innych. Skąd założenie, że akurat LLM połączony z agentami jest czymś, czemu należy się szczególne traktowanie lub cześć? W tym wszystkim to, co rzeczywiście jest przełomowe to jak absurdalnie wielkiej skali wszystkiego - obliczeń, infrastruktury, zużycia energii, chłodziwa, bazy użytkowników - dorobiliśmy się w kilka lat próbując rozwinąć sztuczną inteligencję opartą właśnie o ten model. Ale gdyby podobna gorączka i skala inwestycji czy wyścigu technologicznego opanowała inne dziedziny - jak energetykę termojądrową, informatykę kwantową - nie bylibyśmy świadkami podobnego skoku? Skąd zresztą pewność, że do mitycznego AGI wystarczy komputer klasyczny?

@superdurszlak Zarzucasz mi religijny kult i dorabiasz elaboraty o AGI oraz fuzji termojądrowej, podczas gdy ja od początku piszę o czystym, chamskim pragmatyzmie. Mam kompletnie gdzieś OpenAI i "bożków". Dla mnie to zwykła łopata, dzięki której w kwadrans dowożę to, za co klient płaci, a resztę dnia mam wolną. Dorabiasz ideologię i projektujesz na mnie jakieś sekciarstwo tylko dlatego, że nie możesz znieść faktu, iż rynek ma głęboko w nosie Twoje akademickie dumanie nad "kraftowym" kodem, dopóki biznes dostaje działające rozwiązanie. Ty tracisz godziny na pisanie filozoficznych tyrad o JP2, a ja w tym czasie zamknąłem taska i wystawiłem fakturę

anonimowy napisał(a):

@superdurszlak Zarzucasz mi religijny kult i dorabiasz elaboraty o AGI oraz fuzji termojądrowej, podczas gdy ja od początku piszę o czystym, chamskim pragmatyzmie. Mam kompletnie gdzieś OpenAI i "bożków". Dla mnie to zwykła łopata, dzięki której w kwadrans dowożę to, za co klient płaci, a resztę dnia mam wolną. Dorabiasz ideologię i projektujesz na mnie jakieś sekciarstwo tylko dlatego, że nie możesz znieść faktu, iż rynek ma głęboko w nosie Twoje akademickie dumanie nad "kraftowym" kodem, dopóki biznes dostaje działające rozwiązanie. Ty tracisz godziny na pisanie filozoficznych tyrad o JP2, a ja w tym czasie zamknąłem taska i wystawiłem fakturę

superdurszlak napisał(a):

• Możesz pisać tyle guidelines, ile tylko chcesz, a agent w dowolnym momencie może uznać, że je zignoruje, albo założyć, że jak mówisz nie, to masz na myśli tak.

Tak, aczkolwiek warto mieć świadomość, że tego typu błędy częściej zdarzają się gdzieś w okolicach zapełnienia połowy kontekstu, i im bliżej limitu tym częściej. Tak więc trzeba kompaktować, resetować i dawać zadanie od nowa.

• Nigdy nie zlecają agentowi projektu architektury PRZEDE WSZYSTKIM nie zlecam agentom projektu czegokolwiek. Modele językowe nie mają zdolności myślenia, a już tym bardziej myślenia abstrakcyjnego i krytycznego, więc dlaczego mam zlecać najbardziej wymagającą poznawczo część zadania modelowi statystycznemu?

Tak technicznie, to nikt nie wymaga, żeby projekt był wymyślony, wystarczy jeśli będzie dobrze odgadnięty z intencji. Nie powstanie w ten sposób coś zupełnie nowego, ale całkiem sprytna wariacja czegoś, coś już gdzieś powstało, może być wystarczająca.

• lepszy refactor kłóciłbym się, czy lepszy, po zmarnowaniu setek roboczo-godzin na próbach dokonania refaktoru przez agenta realizującego jakąś specyfikację. Jedyny sensowny refaktor, jaki udawało się tym zrobić, to opieranie się o przykłady, jak się np. przetransformowało struktury danych albo moduł samemu, i jak należy zmienić pozostałe. Nie miałem jeszcze sytuacji, bym zlecił agentowi refaktor jedynie na bazie słowno-muzycznego opisu, czego chcę, że ma być YAGNI, KISS i w ogóle, żeby agent nie wysadził mi kodu w powietrze. Przy czym ja głównie piszę IaC.

Ja całkiem skutecznie przeprowadzam refaktory na zasadzie "te trzy parametry mają teraz trafić do jednego DTO", albo "podziel tę metodę na kilka". Zrobi to, i poprawi nawet setki użyć znacznie szybciej niż człowiek. Mowa o godzinach vs roboczodniach.

anonimowy napisał(a):

Po co robić review slopu? Działa to działa i tyle. Jak wyjdzie, że coś nie działa to dorzucasz więcej slopu i tyle. Musicie zrozumieć, że nie każdy projekt wymaga 100% poprawności jak nie wiem np. PostgreSQL czy Linux. A nawet one posiadają błędy.

Ja tam commituję kod pod swoim nazwiskiem, a nie Dario Amodei.

Tak więc trzeba kompaktować, resetować i dawać zadanie od nowa

Claude sam kompaktuje kontekst

John Gordon napisał(a):

Tak więc trzeba kompaktować, resetować i dawać zadanie od nowa

Claude sam kompaktuje kontekst

Tak, wtedy, gdy pozostały wolny kontekst jest na wyczerpaniu.

Auto też samo się zatrzymuje po napotkaniu pierwszego większego drzewa - ba, zatrzymuje się niemalże w miejscu niezależnie od tego, czy jedzie 20km/h czy 200km/h, czy uderzy frontem czy bokiem... Ale to bardzo skuteczna metoda. Na pewno szybsza niż używanie hamulca, a jednak jeśli chcesz zajechać gdzieś dalej, po drodze używasz hamulców zamiast drzew.

Naprawdę macie tak, że mając wiedzę na poziomie "to trzeba przestawić wajchę" oraz "tu samo się robi" uważacie się za ekspertów w pracy z AI?

Tak, wtedy, gdy pozostały wolny kontekst jest na wyczerpaniu.

No tak, a po co kompaktować jak nie jest na wyczerpaniu? Zresztą możesz sobie ustawić kiedy ma kompaktować. Jeśli będziesz kompaktować za dużo, to stracisz część informacji i zaszkodzisz sobie zamiast pomóc, bo odpowiedzi będą gorsze.

Auto też samo się zatrzymuje po napotkaniu pierwszego większego drzewa

Okej, dzięki za informację.