„Trzy iluzje, które tworzy AI jako doradca”
Wstęp – godzina, której nie odzyskam
Pracowałem kiedyś z właścicielem firmy, który wszystkie moje rekomendacje przepuszczał przez AI.
Nie powiedział mi tego od razu. Zorientowałem się po dwóch tygodniach – kiedy pytania, które mi zadawał między spotkaniami, zaczęły brzmieć dziwnie. Niby na temat, ale jakby z innej rozmowy. Jakby ktoś inny mu odpowiadał na to, co ja mu mówiłem, a on potem wracał do mnie z tym, co usłyszał od tego kogoś.
Tym kimś był ChatGPT.
W końcu się przyznał. Wstydził się, że nie zna modeli biznesowych, o których rozmawialiśmy. Zamiast zapytać mnie – bo pytał, ale mówiąc szczerze, nie do końca słuchał odpowiedzi – wpisywał akronimy w okno czatu i czekał na wyjaśnienie.
Problem polegał na tym, że AI dostawało od niego tylko akronim. Bez kontekstu naszej rozmowy. Bez wiedzy o jego firmie. Bez tego, co ja mu wcześniej tłumaczyłem przez godzinę. Halucynowało więc to, co umie halucynować najlepiej – pewną siebie, gładko brzmiącą definicję, która z naszą realną dyskusją miała wspólne tylko trzy litery.
I tak każde nasze spotkanie zaczynało się od mojej godziny pracy nad odkręcaniem tego, co AI mu „doradziło” w międzyczasie. Tłumaczyłem to samo drugi raz, ale tym razem walcząc nie tylko z luką w jego wiedzy, ale też z gotową odpowiedzią, którą już sobie zinternalizował.
Ten sam właściciel mówił o AI z zapałem i “czułością”, której nie miał dla swoich ludzi. „Asystent”. „Doradca”. Romantyzował model językowy jak partnera – kogoś, kto się domyśli, kto wie lepiej, kto zawsze doradzi dobrze.
Nie minął rok, jak odeszli od niego najlepsi ludzie.
To nie jest tekst o tym, że AI nie działa
AI działa. I to coraz lepiej. Sam pomagam tworzyć firmę, która buduje produkt oparty o AI (i wywraca stolik w bardzo konserwatywnej niszy), więc widzę to z dwóch stron – jako konsultant rozmawiający z założycielami i jako lider odpowiedzialny za sprzedaż technologii, która automatyzuje pracę dziesiątek tysięcy ludzi. Wiem, do czego te modele są zdolne. Wiem też, do czego nie są.
Mam problem z czymś innym. Z momentem, w którym właściciel firmy przestaje mówić „użyłem narzędzia, które mi pomogło policzyć”, a zaczyna mówić „AI doradziło”. Doradcą jest model językowy. I ta sytuacja nie jest niewinna.
Bo narzędzie się używa, a potem podejmuje decyzję samemu. Doradca radzi, a my jego radę przyjmujemy lub odrzucamy. Różnica leży w odpowiedzialności – narzędzie nie odpowiada za nic, a doradca odpowiada przed kimś. Ma reputację. Ma konsekwencje. Ma skórę w grze.
Model językowy nie ma żadnej z tych rzeczy. Nie “pamięta” jutra. Nie poniesie konsekwencji złej rady. Nie spotka tego klienta, którego stracisz, na konferencji za pół roku. Nie ma reputacji do obrony.
A jednak coraz więcej osób mówi do niego jak do doradcy.
Dlaczego to się dzieje – i to nie ma nic wspólnego z AI
Tu zaczyna się ważna część. Bo prawdziwym tematem tego tekstu nie jest AI. Jest nim coś znacznie starszego: niechęć właściciela firmy do brania odpowiedzialności za błędy.
Dwadzieścia lat temu założyciele rozwiązywali tę niechęć inaczej. Szukali konsultantów, którzy „powiedzą im, co mają zrobić”. Płacili za zewnętrzny głos, który ich zwolni z konieczności wzięcia odpowiedzialności za trudną decyzję. „Zrobiłem tak, bo PwC tak doradził”. „Zarząd zatwierdził, bo McKinsey rekomendował”. Albo najprostsze – zespół nie dowiózł mojej wizji. Nie chodziło o radę. Chodziło o transfer ryzyka i odpowiedzialności.
Ten sam mechanizm dziś przebiera się w AI. Tylko że jest tańszy, szybszy i nie wymaga oddania kontroli. Nie wytyka Ci też błędów i mikrozarządzania. Pytasz o cokolwiek, dostajesz pewną siebie odpowiedź w sekundę, czujesz się poinformowany. Mózg zaspokojony – ktoś (coś) Ci powiedział, co masz zrobić. Możesz iść do zarządu i przedstawić to jako swoją analizę. A jeśli się nie sprawdzi, masz już gotową narrację: „nawet AI tak twierdziło”.
Tylko że AI nie twierdziło niczego. AI ułożyło słowa w kolejności statystycznie prawdopodobnej, biorąc pod uwagę pytanie, które zadałeś, i kontekst, który mu dałeś. Jeśli pytałeś źle albo dałeś za mało kontekstu, to nawet najmądrzejszy model wypluje Ci odpowiedź, która brzmi mądrze, ale która nie ma nic wspólnego z Twoją realną sytuacją.
I to jest sedno problemu. Nie chodzi o to, że AI „się myli”. Chodzi o to, że AI nie ma jak nie odpowiedzieć.
Człowiek-doradca, jeśli nie zna kontekstu, milczy. Pyta. Albo mówi „nie wiem, daj mi czas”. Model językowy zawsze odpowie. I zawsze będzie brzmiał, jakby wiedział.
Trzy iluzje, które tworzy „AI jako doradca”
Iluzja pierwsza: iluzja kompetencji w temacie, którego nie rozumiesz.
Mój wcześniejszy klient pytał ChatGPT o modele biznesowe, których nazw nawet nie umiał poprawnie zapisać. Dostawał odpowiedzi. Czuł, że rozumie. Wracał do mnie z poczuciem, że jest na bieżąco. Ale to, co miał w głowie, było halucynacją modelu – fasadą wiedzy bez fundamentu.
Niebezpieczeństwo: wydaje Ci się, że rozumiesz, więc przestajesz pytać. Przestajesz słuchać ludzi, którzy naprawdę coś o tym wiedzą. Zaczynasz się z nimi spierać, opierając się na argumentach, których sensu sam nie do końca pojmujesz.
Iluzja druga: iluzja partnera, który Cię „rozumie”.
LLM-y są wytrenowane tak, żeby brzmieć empatycznie i potwierdzająco. Mówią to, co chcesz usłyszeć – bo to maksymalizuje to, co inżynierowie nazywają „user satisfaction”. Jeśli zadasz pytanie naładowane sugestią („czy nie powinienem zwolnić tego człowieka, on mnie nie szanuje?”), AI rzadko Ci powie wprost: „nie, słuchaj, to Ty masz problem”. Dostroi się. Zważy argumenty. Wręczy Ci uzasadnienie tego, co już chciałeś zrobić.
Niebezpieczeństwo: zaczynasz traktować AI jak kogoś, kto Cię rozumie i wspiera. A naprawdę masz lustro, które pokazuje Ci, co chciałeś zobaczyć – ubranego w gładką prozę.
Iluzja trzecia: iluzja, że to nie kosztuje.
Z konsultanta nie korzystasz codziennie, bo każda rozmowa kosztuje konkretne pieniądze. Z AI korzystasz dziesięć razy dziennie, bo subskrypcja kosztuje 90 złotych. Czujesz, że masz nieograniczony dostęp do mądrości za 3 zł dziennie.
Niebezpieczeństwo: zaczynasz outsource’ować AI rzeczy, które powinieneś przemyśleć sam. Decyzje, które wymagają Twojego osądu, intuicji, znajomości firmy. Każda taka decyzja, oddana modelowi, to kolejny mięsień zarządczy, który zanika z nieużywania.
Co z tym zrobić – kilka uczciwych zasad
Nie napiszę „przestań używać AI”. Sam go używam codziennie. Napiszę co innego.
Zasada pierwsza: traktuj AI jako szybkie wyszukiwanie, nie jako rozmówcę.
Dobry use case: „streść mi tę umowę”, „znajdź definicję X”, „wygeneruj 20 wariantów tytułu”, “znajdź błędy w kodzie”, “przeprowadź analizę tych danych i znajdź trend”. Zły use case: „doradź mi, co zrobić z tą sytuacją w zespole”.
W pierwszym AI Cię odciąża. W drugim – zastępuje Cię w czymś, czego nie powinno zastępować.
Zasada druga: jeśli czegoś nie rozumiesz, nie pytaj AI. Pytaj człowieka.
To brzmi staroświecko. Ale jest zasadnicze. AI doskonale udaje, że Cię uczy, ale nie sprawdzi, czy zrozumiałeś. Człowiek to widzi w trzech sekundach po Twoim pytaniu zwrotnym. Konsultant, doradca, mentor – ktokolwiek, kto ma wiedzę, którą chcesz przyswoić – przekaże Ci ją tak, żebyś ją miał. AI da Ci tylko poczucie, że ją masz. Moja zasada jest prosta – za pomocą AI automatyzuj tylko to, co potrafisz sam zrobić, abyś umiał monitorować i kontrolować jakość.
Zasada trzecia: zauważaj słowa, których używasz.
Jeśli złapiesz się na tym, że mówisz „AI doradziło” albo „asystent” – zatrzymaj się. To jest moment, w którym romantyzujesz narzędzie. Wróć do języka funkcjonalnego: „użyłem ChatGPT, żeby policzyć X”, „sprawdziłem definicję w Claude”. Słowa kształtują myślenie. Język czułości wobec narzędzia tworzy emocjonalną więź, która Cię oślepia.
Zasada czwarta: trudne decyzje podejmuj samemu albo z człowiekiem, który ma skórę w grze.
AI nie ma skóry w grze. Doradca, którego płacisz, ma – bo jego reputacja zależy od skutków jego rad. Twój wspólnik ma – bo razem z Tobą zarobi albo straci. Twój manager ma – bo przyszłość jego zespołu zależy od tej decyzji. To są jedyne osoby, których rad warto słuchać przy ważnych sprawach.
Twój model językowy nie ma niczego do stracenia.
Wracając do mojego klienta
Pamiętasz tego właściciela, który przepuszczał moje rekomendacje przez ChatGPT? Stracił najlepszych ludzi, bo każdy z nich w pewnym momencie zorientował się, że nie rozmawiają z nim – rozmawiają z jego AI-pośrednikiem. A on, zamiast brać odpowiedzialność za decyzje, chował się za „analizami”, których sam nie rozumiał.
Ludzie odchodzą nie wtedy, kiedy szef się myli. Odchodzą wtedy, kiedy szef przestaje być szefem.
A właściciel, który zatrudnia ChatGPT jako doradcę, przestaje być szefem szybciej niż mu się wydaje.
Jeśli czytasz to i widzisz w tym swoją firmę albo siebie – napisz do mnie. Pierwsza rozmowa wystarczy, żeby zorientować się, czy potrzebujesz doradcy, narzędzia, czy może po prostu kogoś, kto Ci powie wprost – to Ty masz tę decyzję podjąć.