Po co własny harness, skoro płacę za subskrypcję

Czym jest harness i po co go stawiałem

Sam model AI tylko odpowiada tekstem. Harness to program wokół niego: daje mu narzędzia (przeglądarkę, pliki, wyszukiwarkę), pamięć i zadania uruchamiane o zadanej porze, a rozmowę prowadzi się przez komunikator. OpenClaw i Hermes to dwa takie programy z otwartym kodem, które uruchamia się u siebie. Obiecują asystenta, który działa całą dobę i sam coś robi.

Nie miałem problemu, który taki asystent miał rozwiązać. Stawiałem je z ciekawości i dlatego, że o „asystencie 24/7” było wtedy głośno. wymyślałem na siłę, żeby zobaczyć, jak to działa, i podejrzewam, że sporo osób robi dokładnie tak samo.

Na czym i co próbowałem

Wszystkie próby robiłem na modelach uruchomionych na własnym komputerze: i , w wersjach . Wybrałem je, bo nic nie kosztują poza prądem i sprzętem, który już miałem, więc nie płacę za . Z rozmawiałem przez , którego i tak używam do kontaktu z ludźmi, więc wybór był oczywisty.

Pierwsza próba to oferty działek. Kazałem agentowi ich szukać i szło kiepsko: nie radził sobie z wczytywaniem stron ani z samym wyszukiwaniem. Wyszukiwarkę postawiłem sam, wchodziła w grę też , zrobiona z myślą o agentach AI.

Druga to przypominacz. Agent miał pisać do mnie na Discordzie, dopóki wprost nie odpiszę, że coś zrobiłem. Nie działało, bo program był pełen .

Trzecia to sterowanie głosem z telefonu przez . Praktycznie nie działało.

Co się psuło

Takie programy mają duże uprawnienia w systemie, więc odpalałem je w , żeby w razie wpadki nie sięgnęły do reszty komputera. W tym trybie prawie w ogóle nie chciały ruszyć. Traciłem czas na uprawnienia, szukanie w i kolejne obejścia. Do tego źle zapisywał ustawienia.

Najdłużej szukałem przyczyny przy : agent sam pisał je do uruchamiania narzędzi i sam walidował, a ja pół dnia , dlaczego to nie działa. Na końcu okazało się, że używany model jest po prostu za słaby.

Część winy leży po stronie modeli, bo te sprzed paru miesięcy były sporo gorsze od dzisiejszych. Mam też wrażenie, że takie projekty są testowane mniej niż aplikacje dużych firm, ale to tylko przypuszczenie. Harnessów na modelu z chmury nie sprawdzałem, więc wniosek o słabych modelach dotyczy tych małych, lokalnych.

Co mają aplikacje dostawców

Jedyna prawdziwa przewaga tych harnessów to proaktywność: agent budzi się sam () i wykonuje zadania o zadanej porze. Zadanie na konkretną godzinę da się już zlecić w aplikacjach Codexa i Claude. Dostawcy idą dalej, w stronę agentów, którzy cały czas działają w : Google ma (maj), OpenAI ma (wrzesień), a Anthropic 21 października pokazał . Według doniesień to wszystko jest na razie w albo w wybranych krajach, głównie w USA, więc u nas jeszcze nie działa. Zgaduję, że przez regulacje o przetwarzaniu danych.

Wyszukiwanie wbudowane w Claude'a i Codexa jest u mnie po prostu lepsze niż ręcznie podpięty SearXNG. Skoro i tak płacę za model, po co składać to samo od zera.

Kiedy własny harness ma sens

Pierwszy przypadek to sprzęt, który udźwignie dobry model. Chodzi o z 256 GB pamięci albo mini komputer na układach Nvidii (, nie mylić z Gemini Spark). Na takich maszynach działają modele, przy których OpenClaw czy Hermes zaczynają mieć sens. Gemma i Qwen 9B były na moim komputerze za słabe, głównie dlatego, że nie ogarniają , a na samodzielnym wywoływaniu narzędzi opiera się cała praca agenta. Użyteczne robi się to od około 27B, a taka maszyna to według mnie minimum od 20 do 30 tys. zł. Do prostych skryptów, szukania informacji i prostej analizy to wystarczy.

Pisanie kodu i bardziej skomplikowana praca i tak wymagają modeli od dostawców w chmurze. modelu na 700B+ parametrów mija się z celem kosztowo, chyba że to duża firma, która będzie obciążać taką maszynę 24/7. Dla mnie wartość takiego sprzętu jest na razie za niska, żeby przebić abonament za 100 zł, bo mniej więcej tyle kosztuje u większości dostawców najtańszy użyteczny plan. Dochodzi jeszcze : harness dokłada do niego mnóstwo własnych (pamięć, instrukcje, zaplanowane zadania), więc trzeba go dopasować do modelu.

Drugi przypadek to dane, które nie mogą wyjść do dostawcy, na przykład prawne. Wtedy zostaje własny model. W pracy mam taki przypadek: agent dostaje pełne prawa, żeby czytać dostarczone mu pliki, a internetu nie ma poza modelu, żeby nic nie wyciekło w niekontrolowany sposób. Aplikacje Codexa i Claude są tu prostsze: pobranie strony zwykle nie wymaga zgody, a wysłanie czegoś do formularza już tak, choć zależy to od ustawień uprawnień.

Pokrewne rzeczy: strona, którą obsługuje agent i asystent z dostępem do twoich aplikacji.