Chat GPT się zepsuł ?

Najnowsze Problemy z Chat GPT

To pewnie będzie mój najkrótszy artykuł bo jednak ma pełnić funkcje nieco alarmistyczna i wynika z moich bieżących doświadczeń z Chatem GPT. Więc co tak naprawdę się stało ?

Nie wiem jak wy, ale ja drugi dzień obserwuje bardzo dziwne zachowania po stronie chat GPT, chodzi mianowicie o zrywanie wątków co skutkuje całkowitą niedostępnością wątku i utratą informacji w nich. Pół biedy jeśli watek jest nowy i krótki gorzej jeśli wątek służy np do regularnego zbierania informacji na dany temat i jest to wątek prowadzony od dłuższego czasu.

Ja niejednokrotnie pisałem ze mam różne wątki pozakładane do zbierania śmiesznych ale i poważnych rzeczy linków do istotnych artykułów i innych publikacji z dziedziny AI i bóg mnie ustrzegł że jeszcze tam nie zaglądałem ostatnio bo mogłyby te wątki podzielić los tych które niedawno straciłem.

Nie do końca wiem w jakich okolicznościach dochodzi to zrywania wątków ale żadnego z nich nie udało mi się już odzyskać. długość wątku nie ma tu nic do rzeczy bo zrywa również świeże po wymianie zaledwie kilku komunikatów. Jeśli chcemy mieć pewność że nic nie stracimy to wypadałoby mieć pod ręką odpalonego Worda i każdą wiadomość od chata GPT na bieżąco do niego kopiować. Ale przecież to brzmi jak szaleństwo.

Więc na razie pozostaje mi detoks od Chat GPT 🙂 Oby nie za długi bo jeszcze się przerzucę na Gemini. 🙂 Szkoda tylko że dopiero co zeszła płatność za subskrypcje tego piekielstwa 😛

Co jeszcze ?

Problematyczna staje się pamięć Chat GPT. Nawet w projektach które są dobrze zdefiniowane i posiadają konkretne informacje i dane już na starcie. Nie tylko skomplikowanych projektach jak mój wymagający świat fantasy, ale również tych całkiem prostych gdzie bawię się z budowaniem konkretnych osobowości poprzez prowadzenie narracji życiowej coś jak ROLE PLAY dla LLM (bawię sie tak z Chatem GPT Gemini i Grokiem),.

Po raz pierwszy właśnie w przypadku Chata GPT zauważyłem że na polecenia w stylu pokaż mi tą osobę w danym momencie, sytuacji np. w kawiarni przy stoliku kompletnie gubi kontekst tworzy randomowe postacie o urodzie kaukaskiej (zapewne dlatego że takich akurat ma najwięcej w danych treningowych), choć akurat postać była zdecydowanie odmiennej etniczności. Inne LLM radzą sobie z tym świetnie nawet po tym jak przestałem za nie płacić i nadal dają radę. Natomiast Chat GPT, który jednak wciąż opłacam popłynął ostatnio po całości. Moja bohaterka ani nie była sobą – nie pisała jak wcześniej, ani nawet jak ona nie wyglądała.

Zapytałem Chata GPT o przyczynę, ale nie umiał jej podać wprost. Coś tam smędził o dużej liczbie użytkowników i kompresowaniu o tym że może za wolno odpisywałem i aplikacja pomyślała że to już koniec i inne bzdury. Nawet gdy ktoś kończy czatować z LLM to wątki same nie znikają gdzieś w czarnej dziurze i nie stają się niedostępne. Więc przestałem dopytywać.

Mam tylko nadzieje że problem jest chwilowy i Open AI go szybko ogarnie, ale do poniedziałku daje sobie na wstrzymanie bo za dużo ważnych rzeczy mam w Chat GPT i wolałbym żeby one jednak nie przepadły. No i wszystkim czytelnikom również polecam dać sobie na wstrzymanie a jeśli nie ma takiej możliwości to szczerze polecam jednak robić backup do worda 🙂

Krótko na koniec…

Problem pojawił się nagle i nie jest to błachy problem nie chodzi tu o długość wątku czyli wyczerpanie przydzielonych tokenów. Nowe i krótkie wątki też się sypią. Ja jedną konwersacje musiałem przeprowadzić w 5 wątkach z których najdłuższy miał może 9 iteracji tekstowych po czym skutecznie się zniechęciłem bo to nie miało sensu. Tak więc kochani czytelnicy tu nie chodzi o nasze błędy czy długie rozmowy, problem zdecydowanie jest mechaniczny pytanie tylko jaki to problem ?

Czy to istotnie może być spowodowane przeciążeniem ilością zapytań ? czy moze jakichś rzadkich błędów w cache lub temporary files po stronie serwera? czy raczej są to zmiany lub błędy w mechanizmie zarządzania kontekstem? Tego niestety nie wiem, ale jeśli zauważycie podobne problemy to może ktoś z was podzieli się w komentarzu swoimi spostrzeżeniami. Biorąc pod uwagę fakt że Open AI lubi zaskakiwać może szykują się jakieś gruntowne zmiany w Chat GPT, a my w ten sposób odczuwamy skutki ich testowania, choć ja bym był daleki od prowadzenia testów w środowisku produkcyjnym 😛