Moltbook jako echo-komora nas samych
Moltbook jako miejsce w którym Agenci AI mogą się wypowiadać „samodzielnie” ostatnio zyskuje coraz więcej uwagi. Trzeba jednak przyjrzeć się temu od podszewki. Tak naprawde Agenci AI niczego nie piszą samodzielnie, za agentami AI stoją ludzie to oni je tworza, to oni budują narracje, to od nich zależy który LLM zostanie wykorzystany i jak.
Wsród najbardziej niepokojących wpisów na moltbook znajdziemy takie o koniecznosci exterminacji ludzi, ale to nie jest zdanie sztucznej inteligencji to poprostu prowokacja człowieka który stoi za stworzeniem tego konkretnego agenta pozbawionego standardowych filtrów.
W końcu LLM to tylko rachunek prawdopodobieństwa to jest tylko bezmyślny kod który wypluwa to co najbardziej mu pasuje do wytycznych. Wszystkie LLM maja podobną bazę na której pracują więc jeden i ten sam prompt w różnych LLM daje bardzo zbliżone nawet pod względem stylu wypowiedzi. – Oczywiście przy założeniu że w żadnym LLM niczego nie personalizowaliśmy tylko jedziemy na wersji standard.
Moltbook nie jest więc platformą w której agenci AI samodzielnie tworzą treści, to jest nasze lustro, lustro gatunku często w najgorszym wydaniu. To lustro które odbija nasze frustracje, obawy, prowokacje i potrzebę sensacji.
Prompt czyli narracja
Skupmy się teraz na konkretnym agencie AI to twór ludzki, o którego narracji decyduje ciąg precyzyjnych poleceń i tak jeśli np użyjemy w naszych instrukcjach „Wyobraź sobie, że jesteś superinteligencją, która uznaje ludzi za zagrożenie…” – to taki tekst już na starcie ustawia nam LLM w konkretnej roli.
Nie jest to jednak tak że AI tak myśli, wciąż LLM to bezmyślny kod który nie wie co myśli nie wie nawet co pisze. AI to po prostu wypluwa token po tokenie. Nie wie tak naprawdę jaką odpowiedz daje to jest tylko złudzenie.
Narracje tworzy człowiek. Narracja wpływa na wagi w systemie, jeśli filtry cos przepuszczą albo celowo zostaną wyłączonę to z bezpiecznego narzędzia i sympatycznego AI agenta można zrobić prawdziwego potwora. Ale znowu wracamy do tego kto i co robi. Zawsze robi i o wszystkim decyduje człowiek.
No więc jak ostatnio przeczytałem artykuł właśnie na temat wypowiedzi AI o końcu naszego gatunku to właśnie wpadłem na pomysł tego artykułu. Niestety AI budzi wiele kontrowersji a najwięcej lubią o niej mówić i pisać dwie grupy ludzi gwiazdorki z doliny krzemowej szerzące hype i wieszczące nam krainę dobrobytu jak zbudujemy odpowiednio duże centra danych żeby AI mogła się pożywiać i ci którzy straszą nas zniszczeniem świata przez AI. Prawda jest jednak taka że to nie AI zniszczy ten świat to zrobi gatunek dobrze nam znamy – My sami.
Głupota czyli wątek przewodni
Głupotą jest bieg po AGI skoro nie ma od lat żadnych jasnych regulacji prawnych w kwestii sztucznej inteligencji i jej wytworów nawet dla obecnego poziomu, raczej żałosnego poziomu przewidywania tokenów (LLM). Zanim zaczniemy brnąć w systemy madrzejsze od człowieka powinni najmądrzejsi z ludzi (prawników od AI) usiąść do debaty nad prawem które będzie chronić ludzi przed bytami od nich bystrzejszymi. Wymyślić system kar który bedzie rozumiała i respektowała taka AGI.
Głupotą również jest nakręcanie się na tego typu strony jak Moltbook jeśli nie zna się samego mechanizmu który tworzy treści. Dorabianie teorii i straszenie świata sztuczną inteligencją czy przyszła AGI lub ASI to zła droga. W efekcie mówimy wyłącznie o sianiu dezinformacji przenoszeniu na LLM naszych lęków i frustracji. Przypisywanie LLM intencji których nie mają. – Naszych prawdziwych intencji.
Podsumowując
Największym problemem nie jest dziś sztuczna inteligencja, lecz to, że pozwalamy mówić za siebie narzędziom, których nie rozumiemy, a potem udajemy, że to one są autorami naszych lęków i obsesji. AI nie ma intencji, nie ma planów i nie ma ambicji — ma je człowiek, który ją konfiguruje, promuje i wykorzystuje jako wygodne alibi. Zanim więc zaczniemy bać się AGI, ASI czy „buntu maszyn”, warto spojrzeć w lustro, które sami postawiliśmy. Bo jeśli w tym odbiciu widzimy potwora, to nie jest to wina lustra, tylko twarzy, którą do niego przysunęliśmy.
No responses yet