GhostliAI privacy-first LLM

Hej hej,

piszę jako jeden z twórców projektu GhostliAI. Od kilku miesięcy razem z zespołem pracujemy nad produktem, który jest czymś pomiędzy modelami lokalnymi a topowymi modelami chmurowymi typu Claude czy GPT. Daje moc zbliżoną do modeli klasy gpt 5, ale bez konieczności posiadania mocnego sprzętu i bez oddawania wszystkich danych wielkim korporacjom. Mocny nacisk położyliśmy na prywatność i brak cenzury.

Nasze API działa jako reverse proxy - wszystko co wysyłasz jest przez nas anonimizowane (IP, metadata itp.)
Sesje są szyfrowane lokalnie (end-to-end), nie przechowujemy promptow ani odpowiedzi
Nie prowadzimy logów użytkowników
Nie trzeba zakładać konta
Całość zaprojektowana tak, żeby nawet my jako operatorzy mieliśmy jak najmniej wglądu w to co robicie

Oprócz standardowego "chatu" posiadamy też tryb agentowy
Projekt jest jeszcze młody - pracujemy nad nim od paru miesięcy i dopiero raczkujemy. Dlatego bardzo zależy nam na szczerym feedbacku od społeczności.
Jeśli ktoś ma chwilę, to byłbym wdzięczny za testy i feedback ;)
Mamy też plan free do przetestowania.

ghostliai.eu

Taka jedna myśli mi przyszła do razu do głowy: piszesz o anonimizowaniu danych oraz o prywatności i bezpieczeństwie.

O ile kojarzę to wersje darmowe narzędzi AI mogą się uczyć na naszych danych, więc istnieje ryzyko że coś poufnego wycieknie w świat. Ale (tak zapewniają przynajmniej twórcy AI typu Gemini czy GPT - oczywiście nie mam jak tego realnie zweryfikować) wersje płatne są bezpieczne.

Także nie rozumiem, po co mam korzystać z Twojego rozwiązania, skoro płacąc nawet stosunkowo niewielkie kwoty, mogę mieć zapewnioną anonimowość i bezpieczeństwo danych.

Czemu oczekujesz, że ktoś nie będzie ufać gigantom typu GPT albo Claude w zakresie bezpieczeństwa i poufności, ale zaufa Tobie - czyli totalnie nieznanej, losowej osobie (albo jakiejś nieznanej, znalezionej w necie usłudze)?

No i nie rozumiem jeszcze jednej rzeczy - bo piszesz o "mocy zbliżonej do GPT5, ale bez posiadania sprzętu" - co sugeruje że da się odpalić jakiś super wydajny silnik AI/ML na zwykłym kompie i właśnie Ty coś takiego oferujesz. Ale potem piszesz, że jesteś proxy/bramką pomiędzy mną a AI w chmurze. Czyli tak naprawdę oferujesz GPT5 ale nie bezpośrednio, tylko z Tobą po drodze. Zamiast mieć GPT5 za które sam płacę, które mi zapewnia pełną wydajność GPT5 i anonimowość oraz bezpieczeństwo wersji płatnej, to płacę więcej (bo i za GPT i za Ciebie), a w zamian dostaję pośrednika oraz moc tylko "zbliżoną" do GPT5. Jaki jest tego (poza marketingowym bełkotem) sens? Bo serio - nie czaję...

@GhostliAI Przejrzałem sobie Frequently Asked Questions na Waszej stronie i mam kilka uwag:

Do I need to create an account?
No. Ghostli requires no email, ...

Token generowany jest wyłącznie po podaniu e-maila, na który jest następnie wysyłany.
Istniejąca w ofercie możliwość przejścia do płatnych opcji w praktyce implikuje po Waszej stronie konieczność zapisu spiętego e-maila z tokenem.
Zatem e-mail jest wymagany, a proces tworzenia konta jest wykonywany, niezależnie od liczby kolumn tabeli registration, user lub jakkolwiek ją nazywacie.

Do I need to create an account?
..., and no personal information.
... There's nothing tying the token to your identity.

Każda płatność/przelew zawiera dane osobowe. W jakiś zatem sposób musi być spięta z tokenem, który przecież deklaratywnie jest anonimowy.

How does the end-to-end encryption work?
All your messages, sessions, and data are encrypted locally before they leave your device.
Ghostli's servers never see the plaintext content.
Encryption keys are generated and stored exclusively on your machine.

Wątek/konwersacja/wiadomości na jakimś etapie – popraw mnie, jeśli się mylę – muszą być deszyfrowane i przekazane jako plain text do docelowego modelu.
Jak Wam się udaje tego dokonać, skoro klucze są deklaratywnie wyłącznie w moim posiadaniu i jaki jest sens szyfrowania tych danych w ogóle, skoro jak twierdzicie "trzymacie od nich swoje rece z daleka"?

Is my code safe with Ghostli?
... no persistent copy is stored on any server.

Ghostli Terms of Service
11. Availability and Service Changes
We may update, modify, suspend, or discontinue the Service at any time for technical, operational, or security reasons. We will endeavor to minimize unavailability.

Biorąc pod uwagę powyższe, nawet uwzględniając Wasze zapewnienia, nie gwarantujecie w żaden sposób prywatności czatów/konwersacji/kodu użytkownika. Przez gwarancję oczywiście rozumiem wymierne i dotkliwe konsekwencje w przypadku złamania deklarowanych na tym etapie zasad postępowania.
Wręcz przeciwnie – i to nie jest lekko uchylona furtka, ale brama szeroko otwarta.

Reasumując: z mojego punktu widzenia flagowe hasła tego produktu, czyli prywatność i anonimowość, są (i tu zachowam powściągliwość) niezgodne ze stanem faktycznym.

Dodatkowo cytowany przeze mnie powyżej 11. artykuł ToS, plus kilka banalnych linijek kodu, w mgnieniu oka mogą sprawić (zakładam, że G-Basic i G-Max to Wasze modele), że kod użytkownika będzie zapisywany i docelowo wykorzystywany, wbrew jego woli, do treningu Waszych modeli.
OK, załóżmy, że wierzę w jednorożce i jestem pewien, że tak nie będzie, ale wspominając o Groku, natychmiast pozbawiacie mnie złudzeń.

Oczywiście dopuszczam taką możliwość, że jestem w błędzie, i oczekuję, że się ustosunkujesz do moich uwag.

Cześć @job-tracker-it,
dzięki za dokładne i konkretne uwagi - doceniam, że przejrzałeś ToS. Odpowiem po kolei i postaram się być maksymalnie szczery.

1. E-mail i token
   Tak, do wygenerowania tokena wymagamy podania e-maila (wysyłamy na niego token). Nie jest to jednak klasyczne konto - nie ma hasła, nie zapisujemy Twoich danych poza tym jednorazowym e-mailem do wysłania tokena. Po aktywacji tokena nie łączymy go z e-mailem w naszych systemach w sposób pozwalający na łatwą identyfikację.
   Zdaję sobie sprawę, że dla purystów prywatności nawet ten jeden email to już kompromis. To jeden z punktow, nad którym jeszcze pracujemy (np. generowanie tokena przez crypto payment bez e-maila) - zawsze mozna uzyc tempmaila ;).
2. Płatności
   Przy płatnościach fiat (stripe) oczywiście pojawia się przetwarzanie danych przez zewnętrznego operatora - tego nie da się obejść przy kartach.
   Przy płatnościach crypto (szczególnie XMR) staramy się zachować maksymalną anonimowość. Wtedy nie mamy praktycznie żadnych danych powiązanych z tokenem.
3. End-to-End Encryption
   Tu masz rację w kluczowej kwestii.
   Szyfrowanie lokalne działa tak: wiadomość jest szyfrowana po Twojej stronie, wysyłana do nas, my ją deszyfrujemy tylko po to, żeby przekazać plaintext do modelu, a potem odpowiedź szyfrujemy z powrotem i wysyłamy do Ciebie.
   Nie da się tego zrobić inaczej - model musi dostać plaintext, inaczej nie zadziała. Klucze są u Ciebie, więc my nie mamy dostępu do historii konwersacji po fakcie. Nie przechowujemy plaintextu po zakończeniu sesji to jest ten kompromis ciezko to zrobic inaczej.
4. ToS i punkt 11
   Tak, ToS jest napisany bardzo defensywnie (celowo). Jesteśmy małym zespołem i zdajemy sobie sprawę, że nie jesteśmy w stanie dać żelaznych gwarancji prawnych jak wielka korporacja. Stąd szeroko sformułowane zapisy.
   Natomiast deklaracja "No User Content will ever be used for training" jest dla nas ważna i aktualna.
   Podsumowanie
   Ghostli nie jest produktem na poziomie "maksymalna możliwa prywatność jak lokalny model + Tor". Jest kompromisem pomiędzy wygodą i mocą chmurowych modeli a prywatnością.
   Jeśli dla Ciebie nawet minimalne przetwarzanie (deszyfracja po stronie serwera + e-mail do tokena) jest deal-breakerem - to szanuję i prawdopodobnie nasz produkt nie jest dla Ciebie. Robimy go głównie dla osób, które chcą więcej prywatności niż przy OpenAI/Anthropic, ale niekoniecznie chcą uruchamiać 70B modelu lokalnie.
   Jeśli masz jeszcze jakieś konkretne pytania techniczne pytaj śmiało :).
   Pozdrawiam

Hej,
dzięki @cerrato komentarz takie pytania są cenne, bo pomagają wyjaśnić o co nam tak naprawdę chodzi.
1 Zaufanie - dlaczego ktos miałby ufać nam, a nie gigantom?

Masz rację to jest największa trudność dla małego projektu.
OpenAI i Anthropic w wersjach płatnych deklarują, że nie używają danych do treningu. Problem w tym, że:

Nadal logują Twoje prompty (nawet jeśli nie trenują na nich)
Wymagają konta powiązanego z danymi osobowymi
Mają bardzo agresywną cenzurę (Claude szczególnie)
Mogą w każdej chwili zmienić politykę prywatności

My nie obiecujemy, że jesteśmy "bardziej godni zaufania" niż oni. Obiecujemy mniej zaufania potrzebnego.
Nie musisz nam ufać, że "będziemy dobrzy". Po prostu zbieramy o Tobie ekstremalnie mało danych: nie ma konta, nie ma historii konwersacji po sesji, nie ma powiązania z tożsamością (przy płatności XMR prawie żadnej). To nie jest kwestia wiary w nas, tylko minimalizacji danych, które w ogóle do nas trafiają.

2 Sens biznesowy - proxy + wyższa cena
Tu też masz sporo racji w spostrzeżeniu.
Ghostli nie jest tylko cienkim wrapperem na istniejące API. Mamy:

Własne fine tunowane modele
Dostęp do Groka przez naszą infrastrukturę z dodatkową warstwą anonimizacji
Reverse proxy + lokalne szyfrowanie sesji

Czyli płacisz za wygodę + prywatność + brak cenzury + tryb agentowy.
Tak, w wielu przypadkach będzie drożej niż bezpośrednie API OpenAI. Ale dla wielu osób (szczególnie devów pracujących z wrażliwym kodem, reverse engineeringiem, danymi firmowymi, researchem itd.) ta dodatkowa warstwa prywatności i swobody jest warta dopłaty.
Podsumowując
Ghostli nie jest dla każdego.
Nie jest dla osoby, która chce najtańszego dostępu do GPT/Claude i ufa korporacjom.
Jest dla kogoś, kto:

Nie chce zakładać konta
Nie chce, żeby jego kod/promypty były gdzieś logowane
Chce pracować bez cenzury
Szuka kompromisu między lokalnym modelem (słaba moc / drogi sprzęt) a chmurą (dużo logów)

Jeśli dla Ciebie to nie ma sensu - w pełni rozumiem i szanuję.

@GhostliAI To, co piszesz, w ogóle się nie klei.

Ostatecznie jednak mój e-mail jest zapisywany, moje dane z przelewu są zapisywane, a to wszystko spięte jest z tokenem, który służąc do identyfikacji mojej instalacji, jakkolwiek byś się przed tym bronił, jest hasłem, które umożliwia mi dostępy.
Zastanawiam się, jak można w ogóle próbować przekonać dewelopera, że taka formuła nie jest kontem użytkownika.

... "Po aktywacji tokena nie łączymy go z e-mailem w naszych systemach w sposób pozwalający na łatwą identyfikację."

Jestem deweloperem tak jak Ty i mógłbyś chociaż udawać, że przyznajesz mi prawo do posiadania choćby szczątkowej inteligencji.

Każdy z flagowych elementów Frequently Asked Questions okazuje się "trochę" niezgodny ze stanem faktycznym:

• e-mail nie jest wymagany - ostatecznie jest jednak "trochę" wymagany.
• wyłącznie użytkownik ma dostęp do swoich treści - ostatecznie również ktoś inny ma do nich "trochę" dostęp.
• instalacji nie można powiązać z danymi osobowymi - ostatecznie "trochę" jest to wręcz niezbędne.

Nie mam problemu z tym, że tak to wygląda i zgadzam się z tym, że po prostu nie da się inaczej.
Mam jednak problem z tym, że szyjąc grubymi nićmi, zakładasz, że promujesz swój produkt w kole gospodyń wiejskich, a nie na forum programistycznym.
Żebyście chociaż równolegle mieli w ofercie sprzedaży jakąś infrastrukturę do spersonalizowanych instalacji jakiegoś vLLM-a, SGLang-a czy llama++, może uwierzyłbym w dobre intencje.

Na koniec dodam, że szczerze życzę powodzenia, jednego nie da się jednak ukryć - marketing macie do bani.

job-tracker-it napisał(a):

@GhostliAI To, co piszesz, w ogóle się nie klei.

Ostatecznie jednak mój e-mail jest zapisywany, moje dane z przelewu są zapisywane, a to wszystko spięte jest z tokenem, który służąc do identyfikacji mojej instalacji, jakkolwiek byś się przed tym bronił, jest hasłem, które umożliwia mi dostępy.
Zastanawiam się, jak można w ogóle próbować przekonać dewelopera, że taka formuła nie jest kontem użytkownika.

... "Po aktywacji tokena nie łączymy go z e-mailem w naszych systemach w sposób pozwalający na łatwą identyfikację."

Jestem deweloperem tak jak Ty i mógłbyś chociaż udawać, że przyznajesz mi prawo do posiadania choćby szczątkowej inteligencji.

Każdy z flagowych elementów Frequently Asked Questions okazuje się "trochę" niezgodny ze stanem faktycznym:

• e-mail nie jest wymagany - ostatecznie jest jednak "trochę" wymagany.
• wyłącznie użytkownik ma dostęp do swoich treści - ostatecznie również ktoś inny ma do nich "trochę" dostęp.
• instalacji nie można powiązać z danymi osobowymi - ostatecznie "trochę" jest to wręcz niezbędne.

Nie mam problemu z tym, że tak to wygląda i zgadzam się z tym, że po prostu nie da się inaczej.
Mam jednak problem z tym, że szyjąc grubymi nićmi, zakładasz, że promujesz swój produkt w kole gospodyń wiejskich, a nie na forum programistycznym.
Żebyście chociaż równolegle mieli w ofercie sprzedaży jakąś infrastrukturę do spersonalizowanych instalacji jakiegoś vLLM-a, SGLang-a czy llama++, może uwierzyłbym w dobre intencje.

Na koniec dodam, że szczerze życzę powodzenia, jednego nie da się jednak ukryć - marketing macie do bani.

@job-tracker-it,
nie, to co piszesz nie do końca się klei i mocno naciągasz kilka rzeczy.
Token nie jest kontem użytkownika. Nie ma hasła, nie ma profilu, nie ma możliwości zalogowania się klasycznie. To jednorazowy / długoterminowy klucz dostępu - tak jak API key w OpenAI, tylko że u nas nie jest powiązany z pełnym kontem. Przesadzasz porównując to 1:1 do klasycznego konta.
Tak, e-mail jest wymagany do wysłania tokena tego nie ukrywamy. Ale pisanie, że „wszystko jest spięte z danymi osobowymi” przy płatności XMR jest po prostu nieprawdą.
Co do deszyfracji: tak, serwer musi zobaczyć plaintext żeby przekazać go do modelu. To nie jest żadna tajemnica ani „grube szycie” - każdy reverse proxy i każdy pośrednik API tak działa. Pisaliśmy jasno, że sesje są szyfrowane lokalnie przed wysłaniem i po otrzymaniu odpowiedzi. Nigdy nie twierdziliśmy, że model dostaje zaszyfrowane dane - to byłoby technicznie bezsensowne.
Masz pełne prawo uważać, że nasz poziom prywatności jest dla Ciebie za niski. Ale nie musisz z tego robić narracji „kłamią na każdym kroku”.
Ghostli jest kompromisem i nigdy nie udawaliśmy, że jesteśmy lokalny 405B model 100% opsec. Jesteśmy pomiędzy lokalnym LLM a klasycznym ai korpo - z naciskiem na brak konta, brak logów historii i brak cenzury. I za to ludzie nam płacą.
Marketing możemy mieć słaby - to przyjmuję. Ale nie zgadzam się z tezą, że FAQ jest „szyte grubymi nićmi” i wprowadza w błąd. Jest po prostu napisane językiem marketingowym, a nie prawniczo-technicznym.

Jest jakaś różnica między Waszym produktem a https://duckduckgo.com/duckai/privacy-terms?

Pyxis napisał(a):

Jest jakaś różnica między Waszym produktem a https://duckduckgo.com/duckai/privacy-terms?

hej, to są całkowicie różne produkty zapoznaj sie z https://ghostliai.eu/ i naszymi funkcjami

To nie jest kwestia wiary w nas, tylko minimalizacji danych, które w ogóle do nas trafiają.

Nadal nie rozumiem.
Ja tworzę zapytanie. I teraz:
a) przesyłam je do Was, a Wy je pchacie dalej w świat, a potem odpowiedź wraca do mnie
b) przesyłam je bezpośrednio do GPT.

Gdzie tutaj jest minimalizacja danych? Dlaczego przesłane do Was dane mają być mniejsze/lżejsze niż przesłane do GPT?
Rozumiem co pisałeś - że oni trzymają historię itp - ale to można przecież (zwłaszcza w wersjach płatnych) wyczyścić.

cerrato napisał(a):

To nie jest kwestia wiary w nas, tylko minimalizacji danych, które w ogóle do nas trafiają.

Nadal nie rozumiem.
Ja tworzę zapytanie. I teraz:
a) przesyłam je do Was, a Wy je pchacie dalej w świat, a potem odpowiedź wraca do mnie
b) przesyłam je bezpośrednio do GPT.

Gdzie tutaj jest minimalizacja danych? Dlaczego przesłane do Was dane mają być mniejsze/lżejsze niż przesłane do GPT?
Rozumiem co pisałeś - że oni trzymają historię itp - ale to można przecież (zwłaszcza w wersjach płatnych) wyczyścić.

Hej,
Różnica nie polega na tym, że "przesyłasz mniej danych". Prompt i tak musi dojść do modelu.
Różnica polega na tym, co się dzieje z Twoimi danymi poza samym promptem:

Przy OpenAI / Anthropic:
Musisz mieć konto powiązane z e-mailem, numerem telefonu lub kartą
Cała historia konwersacji jest logowana na ich serwerach (nawet jeśli ją "wyczyścisz" - oni nadal ją mają)
Widzą Twój IP, billing, wzorce użycia
Mają pełną możliwość powiązania wszystkich Twoich promptów z Twoją tożsamością
stosują agresywną cenzurę

Przy Ghostli:
Nie ma konta
Nie logujemy historii konwersacji po zakończeniu sesji
Sesje są lokalnie szyfrowane przed wysłaniem
Przy płatności XMR praktycznie nie mamy żadnych danych łączących Cię z tokenem
Nie łączymy promptów z Twoją tożsamością w długim terminie
Brak cenzury

Czyli tak - pojedynczy prompt może być podobnej wielkości. Ale całościowy ślad, jaki po sobie zostawiasz jest zdecydowanie mniejszy u nas.
To nie jest produkt dla kogoś, kto chce absolutnego maksimum prywatności (wtedy zostaje lokalny model).
To jest produkt dla kogoś, kto chce znacznie więcej prywatności niż przy klasycznym OpenAI/Anthropic, przy jednoczesnym zachowaniu wysokiej mocy modeli i wygody.

GhostliAI napisał(a):

Różnica polega na tym, co się dzieje z Twoimi danymi poza samym promptem:

Przy OpenAI / Anthropic:
Musisz mieć konto powiązane z e-mailem, numerem telefonu lub kartą
Cała historia konwersacji jest logowana na ich serwerach (nawet jeśli ją "wyczyścisz" - oni nadal ją mają)
Widzą Twój IP, billing, wzorce użycia
Mają pełną możliwość powiązania wszystkich Twoich promptów z Twoją tożsamością
stosują agresywną cenzurę

Przy Ghostli:
Nie ma konta

Ty masz dokladnie takie same mozliwosci. Gwarantujesz jednak slowem, ze jest inaczej. Tego rodzaju "gwarancja" wiesz ile jest warta.

Nawet jestli token, email, dane z karty zapiszesz w trzech osobnych bazach danych na trzech osobnych kontynentach, ale formalnie mozesz zablokowac moj dostep (walidacja tokenu) z powodu braku platnosci, to chociazbys nie wiem jak zaklinal rzeczywistosc, formalnie i strukturalnie taka formula ma znamiona 100-procentowego konta uzytkownika, a stopien jej rozproszenia nie ma najmniejszego znaczenia.
Juz sam fakt oporu przed potwierdzeniem tego jest "stinky".

GhostliAI napisał(a):

Nie logujemy historii konwersacji po zakończeniu sesji

tak twierdzisz, ale jestescie w stanie, a nawet musicie ja deszyfrowac w celu przekazania do modelu

GhostliAI napisał(a):

Sesje są lokalnie szyfrowane przed wysłaniem

Skoro komunikacja odbywa sie wylacznie miedzy moja instalacja lokalna a Waszymi serwerami, to wciskanie szyfrowania ostatecznie sprowadza do overkill'u i uzycia chwytliwego buzzword'a.

GhostliAI napisał(a):

Przy płatności XMR praktycznie nie mamy żadnych danych łączących Cię z tokenem

W tym kontekscie to wlasnie praktycznie robi ta wielka roznice od ktorej tak usilnie starasz sie odwrocic uwage. W jaki sposob weryfikujecie moj ostatni przelew i dajecie dostep do swojego modelu? Telepatycznie?

GhostliAI napisał(a):

Nie łączymy promptów z Twoją tożsamością w długim terminie

Ponownie długim terminie robi roznice. Poza tym caly czas operujesz promptem a defacto to moj kod w konwersacji jest tu najwazniejszy i Twoj nieograniczony niczym dostep do niego.

GhostliAI napisał(a):

Ale całościowy ślad, jaki po sobie zostawiasz jest zdecydowanie mniejszy u nas.

Bycmoze teraz i bycmoze uwierze na slowo.
Problem polega na tym ze juz teraz masz nieograniczona mozliwosc zmiany tego stanu rzeczy, a w to ze nie postapisz w ten sposob w przyszlosci nie uwierze.

Poza tym z uporem operujesz w obszarze danych osobowych, a:
Dla developera rownie istotny jest kod, ktory Tobie powierza.
o tym w ogole w zadnej swojej wypowiedzi nie wspominasz, krecac sie wylacznie wokol prompta.

Fakt, ze bezpieczenswo i prywatnosc kodu chroni jedynie Twoje slowo (no i szyfrowanie po mojej stronie, ktore i tak musisz odwrocic), a T&C umozliwiaja Ci dowolna zmiane postepowanie w przyszlosci nie przemawia na Twoja korzysc.

Kod developerow dla Twojego biznesu jest rownie istotny jak ich przelewy i nie ma takiej mozliwosci zebys predzej czy pozniej (raczej predzej) nie zaczal trenowac na nim swoich modeli.

GhostliAI napisał(a):

...
Przesadzasz porównując to 1:1 do klasycznego konta.
...
kłamią na każdym kroku

Jesli zdecydujesz sie na kolejne ad vocem to bardzo prosze nie wkladaj w moje usta slow ktorych nie wypowiedzialem/napisalem. Zanim jednak zaczniesz mnie cytowac wskaz mi miejsce gdzie posluguje sie pojeciem "klasyczne konto", lub stwierdzam ze "kłamią na każdym kroku".

job-tracker-it napisał(a):

GhostliAI napisał(a):

Różnica polega na tym, co się dzieje z Twoimi danymi poza samym promptem:

Przy OpenAI / Anthropic:
Musisz mieć konto powiązane z e-mailem, numerem telefonu lub kartą
Cała historia konwersacji jest logowana na ich serwerach (nawet jeśli ją "wyczyścisz" - oni nadal ją mają)
Widzą Twój IP, billing, wzorce użycia
Mają pełną możliwość powiązania wszystkich Twoich promptów z Twoją tożsamością
stosują agresywną cenzurę

Przy Ghostli:
Nie ma konta

Ty masz dokladnie takie same mozliwosci. Gwarantujesz jednak slowem, ze jest inaczej. Tego rodzaju "gwarancja" wiesz ile jest warta.

Nawet jestli token, email, dane z karty zapiszesz w trzech osobnych bazach danych na trzech osobnych kontynentach, ale formalnie mozesz zablokowac moj dostep (walidacja tokenu) z powodu braku platnosci, to chociazbys nie wiem jak zaklinal rzeczywistosc, formalnie i strukturalnie taka formula ma znamiona 100-procentowego konta uzytkownika, a stopien jej rozproszenia nie ma najmniejszego znaczenia.
Juz sam fakt oporu przed potwierdzeniem tego jest "stinky".

GhostliAI napisał(a):

Nie logujemy historii konwersacji po zakończeniu sesji

tak twierdzisz, ale jestescie w stanie, a nawet musicie ja deszyfrowac w celu przekazania do modelu

GhostliAI napisał(a):

Sesje są lokalnie szyfrowane przed wysłaniem

Skoro komunikacja odbywa sie wylacznie miedzy moja instalacja lokalna a Waszymi serwerami, to wciskanie szyfrowania ostatecznie sprowadza do overkill'u i uzycia chwytliwego buzzword'a.

GhostliAI napisał(a):

Przy płatności XMR praktycznie nie mamy żadnych danych łączących Cię z tokenem

W tym kontekscie to wlasnie praktycznie robi ta wielka roznice od ktorej tak usilnie starasz sie odwrocic uwage. W jaki sposob weryfikujecie moj ostatni przelew i dajecie dostep do swojego modelu? Telepatycznie?

GhostliAI napisał(a):

Nie łączymy promptów z Twoją tożsamością w długim terminie

Ponownie długim terminie robi roznice. Poza tym caly czas operujesz promptem a defacto to moj kod w konwersacji jest tu najwazniejszy i Twoj nieograniczony niczym dostep do niego.

GhostliAI napisał(a):

Ale całościowy ślad, jaki po sobie zostawiasz jest zdecydowanie mniejszy u nas.

Bycmoze teraz i bycmoze uwierze na slowo.
Problem polega na tym ze juz teraz masz nieograniczona mozliwosc zmiany tego stanu rzeczy, a w to ze nie postapisz w ten sposob w przyszlosci nie uwierze.

Poza tym z uporem operujesz w obszarze danych osobowych, a:
Dla developera rownie istotny jest kod, ktory Tobie powierza.
o tym w ogole w zadnej swojej wypowiedzi nie wspominasz, krecac sie wylacznie wokol prompta.

Fakt, ze bezpieczenswo i prywatnosc kodu chroni jedynie Twoje slowo (no i szyfrowanie po mojej stronie, ktore i tak musisz odwrocic), a T&C umozliwiaja Ci dowolna zmiane postepowanie w przyszlosci nie przemawia na Twoja korzysc.

Kod developerow dla Twojego biznesu jest rownie istotny jak ich przelewy i nie ma takiej mozliwosci zebys predzej czy pozniej (raczej predzej) nie zaczal trenowac na nim swoich modeli.

GhostliAI napisał(a):

...
Przesadzasz porównując to 1:1 do klasycznego konta.
...
kłamią na każdym kroku

Jesli zdecydujesz sie na kolejne ad vocem to bardzo prosze nie wkladaj w moje usta slow ktorych nie wypowiedzialem/napisalem. Zanim jednak zaczniesz mnie cytowac wskaz mi miejsce gdzie posluguje sie pojeciem "klasyczne konto", lub stwierdzam ze "kłamią na każdym kroku".

Token = konto?
Token jest kluczem autoryzacyjnym (API key). Tak samo jak w OpenAI, Groq, Anthropic czy Fireworks. Tam też po wygaśnięciu subskrypcji blokują dostęp. Nikt tego nie nazywa „kontem użytkownika z profilem”. Przesadzasz z tym porównaniem.
E-mail + płatności
Tak, e-mail jest wymagany do wysłania tokena. Przy płatnościach fiat (Stripe) są dane płatnicze. Przy XMR - praktycznie zero. To nie jest idealna anonimowość, tylko znacznie wyższa niż przy klasycznych platformach. Tego nie ukrywamy.
Szyfrowanie i deszyfracja
Lokalne szyfrowanie sesji oznacza, że dane są szyfrowane po Twojej stronie przed wysłaniem i po otrzymaniu odpowiedzi. Serwer musi zobaczyć plaintext - tak, to techniczna konieczność przy każdym reverse proxy. Nigdy nie twierdziliśmy, że model dostaje zaszyfrowane prompty. To nie jest buzzword, tylko standardowe zachowanie w tego typu architekturze.
Kod developera
Masz rację - kod jest ważniejszy niż zwykłe prompty. Dlatego nie przechowujemy historii konwersacji po sesji i nie używamy danych użytkowników do treningu. To jest deklaracja, na której nam zależy. Wiem, że wierzysz w to słabo - i szanuję. Nie mogę Ci dać żelaznej gwarancji prawnej, bo jesteśmy małym zespołem.
Zmiana polityki w przyszłości
Tak, teoretycznie możemy zmienić ToS jak każda inna firma. Różnica jest taka, że u nas będziecie mieli o wiele mniej danych, które moglibyśmy wykorzystać.
Nie twierdzę, że jesteśmy idealni. My jestesmy kompromisem. Jeśli dla Ciebie jakakolwiek deszyfracja na serwerze + e-mail = zero prywatności, to nasz produkt nie jest dla Ciebie i nie ma sensu go używać.
Nie będę dalej ciągnął tej dyskusji.

Kod developera
Masz rację - kod jest ważniejszy niż zwykłe prompty. Dlatego nie przechowujemy historii konwersacji po sesji i nie używamy danych użytkowników do treningu.

Zakładając, że nie przechowujecie promptów, to w zasadzie i tak BigTechy dostają ten kod tak czy siak w plain text, tylko nie wiedzą, kto go dokładnie wysłał. Czyli jedyną zaletą jest nieprofilowanie użytkownika, natomiast same pomysły, kreatywność i know-how trafia do dostawców.

Pyxis napisał(a):

Kod developera
Masz rację - kod jest ważniejszy niż zwykłe prompty. Dlatego nie przechowujemy historii konwersacji po sesji i nie używamy danych użytkowników do treningu.

Zakładając, że nie przechowujecie promptów, to w zasadzie i tak BigTechy dostają ten kod tak czy siak w plain text, tylko nie wiedzą, kto go dokładnie wysłał. Czyli jedyną zaletą jest nieprofilowanie użytkownika, natomiast same pomysły, kreatywność i know-how trafia do dostawców.

Posiadamy własne modele fine tunowane, jedyny model ktory rzeczywiście należy do "big techu" to grok. Polecam się zapoznać z naszymi featursami "bo to nie jedyna nasza zaleta"

End-to-End Encryption
Tu masz rację w kluczowej kwestii.
Szyfrowanie lokalne działa tak: wiadomość jest szyfrowana po Twojej stronie, wysyłana do nas, my ją deszyfrujemy tylko po to, żeby przekazać plaintext do modelu

To nie jest end-to-end. Proszę usunąć te brednie

Ghostli's servers never see the plaintext content.

ze strony. To jest nawet technicznie niewykonalne żeby tak było, nawet jakbyście chcieli.

BTW, Gemini akurat ma CLI. Dziwne, że taki błąd trafił na stronę, może robiło ją AI. xD^2

kelog napisał(a):

End-to-End Encryption
Tu masz rację w kluczowej kwestii.
Szyfrowanie lokalne działa tak: wiadomość jest szyfrowana po Twojej stronie, wysyłana do nas, my ją deszyfrujemy tylko po to, żeby przekazać plaintext do modelu

To nie jest end-to-end. Proszę usunąć te brednie

Ghostli's servers never see the plaintext content.

ze strony. To jest nawet technicznie niewykonalne żeby tak było, nawet jakbyście chcieli.

BTW, Gemini akurat ma CLI. Dziwne, że taki błąd trafił na stronę, może robiło ją AI. xD^2

Na stronie jest tabelka z porównaniem do „czystego Gemini”. Nie ma tam ani słowa o Gemini CLI czy Antigravity, bo są to zupełnie inne narzędzia.

Zanim zaczniesz krytykować, warto najpierw przeczytać materiał ze zrozumieniem. W przeciwnym razie powstają właśnie takie nieporozumienia.

A jeśli chodzi o E2E, to odnosi się ono do komunikacji między naszym serwerem a klientem. To podstawowa definicja, więc sugeruję najpierw zweryfikować fakty, a dopiero później komentować.

Na stronie jest tabelka z porównaniem do „czystego Gemini”.

Jest też porównanie do ChatGPT, a on nie ma CLI. Czyli 2 błędy są, wedle takiej logiki.
mea culpa - masz rację. Źle spojrzałem :)

A jeśli chodzi o E2E, to odnosi się ono do komunikacji między naszym serwerem a klientem

Wedle wiki: End-to-end encryption (E2EE) is a method of implementing a secure communication system where only the sender and intended recipient can read the messages.
Skoro

my ją deszyfrujemy tylko po to, żeby przekazać plaintext do modelu

To nie spełniacie tej definicji. Ale spoko, widzę że macie swoją lepszą definicję. Nie będę się kłócił.

Swoją drogą, to narzędzie ma sens i widzę w tym potencjał - ale nie jako narzędzie do zwiększania prywatności, ale jako narzędzie do ograniczenia ryzyka zablokowania "swojego" konta na platformie dostawcy AI. Wiadomo, że Google lubił zbanować całe konto za jakiś prompt który się mu nie spodobał. Ogólnie też dlatego nie używam Gemini. Ale takie "proxy" lub de facto "słup" są świetną przykrywką do pracy z AI na tematy, że tak powiem, bardziej "ryzykowne". Za to bym zapłacił.