Mariusz Jażdżyk: Żaden urząd nie może pójść do sądu z argumentem, że algorytm tak zadecydował

Rozwiązanie dla UOKiK nie było budowane od zera. Oparliśmy je na gotowym rdzeniu technologicznym – Firstscore AI Platform. Wdrożenie wraz z analizą zajęło zaledwie kilka miesięcy, oczywiście poprzedzone było wieloma badaniami prowadzonymi w Urzędzie. Sprawne wdrożenie wynika z naszej metodyki, gdzie 80% to ustandaryzowany, gotowy silnik orkiestracji agentowej, a 20% to dostosowanie warstwy analitycznej do specyfiki klienta.

Najtrudniejszym wyzwaniem nie była technologia, lecz transfer wiedzy. Musieliśmy przełożyć abstrakcyjne definicje prawne dotyczące manipulacji rynkowych na deterministyczne reguły, które system sztucznej inteligencji potrafi w powtarzalny sposób wykorzystywać.

DRAKE powstał na bazie Państwa własnej platformy i dzięki temu projekt udało się zrealizować w kilka miesięcy zamiast roku lub dłużej. Co ta platforma daje technologicznie i co odróżnia DRAKE od prostego agenta zbudowanego na dużym modelu językowym?

Prosty agent oparty na pojedynczym modelu językowym (LLM) działa w logice „czarnej skrzynki” i jest podatny na halucynacje. W sektorze regulowanym to niedopuszczalne ryzyko.

Firstscore AI Platform to infrastruktura oparta na orkiestracji wieloagentowej. Zamiast jednego modelu, proces jest dekomponowany na wyspecjalizowane mikro-agenty. Jeden odpowiada za nawigację, drugi za ekstrakcję danych, trzeci konfrontuje te dane ze zdefiniowaną bazą wiedzy prawnej, a kolejny pełni funkcję weryfikatora. Daje to pełną kontrolę nad procesem i pozwala na przetwarzanie asynchroniczne wielu spraw równolegle.

Jak dokładnie DRAKE porusza się po stronie internetowej? Czy analizuje tylko to, co widzi użytkownik, czy również wykonuje określone akcje, przechodzi między podstronami i bada kod znajdujący się pod warstwą wizualną serwisu?

Platforma wykonuje operacje zgodnie z ustaloną wcześniej strategią. Agent nie uwzględnia jedynie statycznego tekstu. Uruchamia własną przeglądarkę, w której symuluje autentyczne ścieżki użytkownika (np. dodanie do koszyka, różne interakcje z elementami strony).

System pobiera dane multimodalne w trzech warstwach: po pierwsze, warstwę wizualną (renderowany interfejs wraz z tekstami i elementami graficznymi), po drugie, drzewo dynamicznego kodu i wykonywane w czasie rzeczywistym komponenty JavaScript, a po trzecie, logi zapytań sieciowych. System widzi to samo co użytkownik, ale jednocześnie bada mechanikę ukrytą pod spodem.

Właśnie analiza kodu wydaje się jednym z najciekawszych elementów systemu. Czy może Pan podać przykład sytuacji, w której sama analiza wyglądu strony nie wystarczyłaby, a dopiero kod źródłowy pozwala wykryć potencjalny dark pattern?

Klasycznym przykładem jest fałszywy dowód społeczny (Fake Social Proof) lub fałszywe liczniki czasu (Urgency Cues), ale to tylko niektóre z całej palety możliwych nieprawidłowości. Z perspektywy wizualnej użytkownik widzi komunikat: 'Promocja kończy się za 15 minut’ lub 'Ten produkt przegląda teraz 45 osób’.

Sama analiza obrazu nie jest w stanie stwierdzić, czy to prawda, czy manipulacja. Nasz system weryfikuje to na poziomie kodu. Jeżeli agent wykryje, że licznik czasu po przeładowaniu sesji po prostu resetuje się do wartości początkowej, lub że liczba 'osób przeglądających’ jest sztucznie generowana przez prosty skrypt losujący, zyskujemy twardy dowód manipulacji, niezależny od warstwy prezentacyjnej.

DRAKE przygotowuje nie tylko raport, ale również uzasadnienie i materiał wskazujący, z czego wynikają jego wnioski. Jak ważna była dla Państwa wyjaśnialność systemu i dlaczego w przypadku narzędzia wykorzystywanego przez regulatora model typu „black box” byłby problemem?

W środowisku administracji publicznej i egzekucji prawa, dokładność decyzji to za mało. Wymagana jest audytowalność i niezaprzeczalność. Żaden urząd nie może pójść do sądu z argumentem, że „algorytm tak zadecydował”.

Dlatego nasza platforma wymusza zasady wyjaśnialności. Każde naruszenie wytypowane przez system generuje ścieżkę audytową. Dokumentowane są wszelkie ślady, zamienia to przypuszczenia analityczne w obiektywny materiał dowodowy z którym bardzo trudno dyskutować.

Jak wygląda mechanizm human in the loop w praktyce? W jaki sposób oceny, poprawki i komentarze urzędników wpływają później na kolejne analizy wykonywane przez system?

Zasada jest prosta: algorytmy wykonują pracę analityczną, ale ostateczna kwalifikacja prawna i decyzja administracyjna zawsze należą do człowieka.

W praktyce użytkownik otrzymuje wygenerowane przez system dossier dowodowe. Jeśli ekspert odrzuci wniosek algorytmu lub zmieni jego kwalifikację, ta informacja zwrotna trafia do systemu. Pętla sprzężenia zwrotnego pozwala administratorom systemu zaktualizować deterministyczne reguły w ustrukturyzowanej Bazie Wiedzy platformy, pozwala też algorytmom użyć je automatycznie. W ten sposób wiedza domenowa eksperta jest precyzyjnie transferowana do infrastruktury, podnosząc jej skuteczność na przyszłość. To standard w naszej platformie.

Czy można powiedzieć, że DRAKE z czasem coraz lepiej „uczy się” sposobu oceny dark patterns przez konkretnych ekspertów? Jak wygląda kalibrowanie granicy między sytuacją, która jest jeszcze dopuszczalnym elementem interfejsu, a potencjalnie manipulacyjnym wzorcem?

Kalibracja tej granicy to w naszej architekturze proces twardej inżynierii reguł, a nie tylko statystycznego uczenia maszynowego. Zamiast polegać na tym, że model sam 'wyczuje’ granicę, nasi inżynierowie wspólnie z prawnikami przekładają wyroki i decyzje eksperckie na precyzyjne wytyczne.

DRAKE ocenia co dzieje się na stronie przed zalogowaniem czy po zalogowaniu? W przypadku bukmacherów ma to bowiem duże znaczenie.

Decyzje o zakresie operacyjnym poszczególnych postępowań leżą wyłącznie w gestii UOKiK, dlatego nie mogę komentować metodyki badania konkretnej branży. Z perspektywy technologicznej Firstscore AI Platform jest architekturą zdolną do operowania w środowiskach uwierzytelnionych oraz anonimowych.

DRAKE potrafi wykonać w około dziesięć minut analizę, która człowiekowi mogłaby zająć kilka godzin. Gdzie dziś widać największą przewagę takiego narzędzia: w szybkości, skali analiz, wykrywaniu elementów niewidocznych dla użytkownika czy w czymś jeszcze?

Największą przewagą jest zlikwidowanie asymetrii technologicznej między biznesem a regulatorem. Platformy cyfrowe wdrażają zmiany i optymalizują konwersję w milisekundach, wykorzystując testy A/B na milionach użytkowników. Niech przykładem będzie chociażby głośna sprawa konfliktu facebook/meta z Rafałem Brzoską.

Do tej pory organy nadzoru mogły odpowiadać na to jedynie statycznym, manualnym audytem o ogromnej latencji. Wdrożone rozwiązanie przywraca regulatorowi zdolność do operowania na poziomie maszynowym, podobnym do tego do czego są zdolne platformy cyfrowe.

DRAKE był prezentowany przedstawicielom regulatorów z wielu krajów, czy pojawiło się zainteresowanie tym produktem?

Tak, prezentacja rozwiązania na konferencji ICPEN, reprezentującego współpracę europejskiej sieci CPC (Consumer Protection Cooperation), wygenerowała bardzo duże zainteresowanie. Organy nadzoru w całej Europie stoją przed identycznym problemem – wdrażaniem rygorów Digital Services Act (DSA) i dyrektywy Omnibus przy ograniczonych zasobach ludzkich.

Cała koncepcja projektu, która wyszła z UOKiK, w której mieliśmy możliwość pomóc jest unikalnym i jeszcze nie do końca zauważonym podejściem do tego tematu w Europie.

W jakim kierunku może rozwijać się DRAKE w kolejnych latach? Czy widzi Pan możliwość rozszerzenia go na kolejne sektory, bardziej złożone ścieżki użytkownika albo jeszcze bardziej autonomiczne analizy, przy zachowaniu ostatecznej kontroli człowieka?

Decyzja zależy oczywiście od urzędu i nie możemy tu zdradzać pomysłów które się pojawiają. Jesteśmy przekonani, że polski regulator nadal będzie działał na rzecz konsumentów, zarówno na odcinku detekcji jak i edukacji. Osobiście widzę spore zainteresowanie pojawiające się od innych europejskich regulatorów, ale także ze strony uczestników rynku. Widzimy wiele firm zainteresowanych tym jak uniknąć potknięcia się w gąszczu regulacji. Firmy są pod gigantyczną presją z różnych urzędów i zarządzający nie zawsze potrafią odeprzeć ryzyko regulacyjne.

Tu także z pomocą przychodzi nasza technologia. Obserwujemy narodziny nowego standardu, który nazywamy Shift-Left Compliance – czyli weryfikowania e-commerce’u przez algorytmy audytowe, jeszcze zanim nowy kod sklepu trafi na produkcję. Pomagamy więc obu stronom – ostatecznie zawsze dla dobra konsumentów.