Lubie nowinki, więc rączki mnie świerzbią, by odpalić sobie clowdbota i poeksperymentować.
Natomiast jak to bezpiecznie skonfigurować?
Zdaje sobie sprawę z tego, że LLMy nie potrafią odróżnić instrukcji od danych użytkownika, co otwiera drzwi do ataków typu "prompt injection", gdzie złośliwy mail może przejąć kontrolę nad całym systemem.
Prompt injection to rodzaj cyberataku wymierzonego w duże modele językowe (LLM). Hakerzy podszywają złośliwe treści pod pozornie zwykłe polecenia, manipulując systemami generatywnej AI (GenAI) tak, aby ujawniały wrażliwe dane, rozpowszechniały dezinformację lub robiły coś jeszcze gorszego.
ClowdBot - to narzędzie AI do automatyzacji, które pozwala łączyć różne aplikacje komunikacyjne z innymi usługami. Można np. poprosić Clowdbota przez Signal, żeby przeczytał najnowsze e-maile i przysłał ich podsumowanie.
Póki co widzę to tak:
- mam dedykowaną maszynę na której odpalony jest clowdbot,
- podpięta jest do sieci odizolowanej od mojej domowej,
- ma podpięty dedykowany mail (nie mój prywatny),
- korzysta z karty typu prepaid,
- korzysta z lokalnie odpalonego modelu,
na co jeszcze zwróciłbyś uwagę?