UOKiK odpowiada iGaming Polska. Wiemy, jak działa AI, kogo bada Urząd i jak liczone mogą być kary

DRAKE trafił do postępowań dotyczących bukmacherów

Tydzień temu informowaliśmy o działaniach UOKiK dotyczących legalnych operatorów bukmacherskich. Jednym z najciekawszych elementów sprawy było wykorzystanie przez Urząd narzędzia opartego na sztucznej inteligencji do analizy serwisów internetowych.

Zapytaliśmy UOKiK między innymi o sposób działania systemu, zakres analizowanych elementów stron, wykorzystanie dużych modeli językowych, udział człowieka w ocenie wyników oraz o to, które firmy obejmują prowadzone obecnie postępowania.

Urząd odpowiedział szeroko. Po raz pierwszy poznaliśmy dokładną nazwę wykorzystywanego rozwiązania oraz szczegóły jego działania.

DRAKE, czyli Dark patterns Regulatory Analysis Knowledge Engine, jest rozwijanym przez UOKiK narzędziem wykorzystującym między innymi duże modele językowe i modele wizyjno językowe. System nie ogranicza się przy tym do analizy tego, co użytkownik widzi na ekranie. Sprawdza także kod źródłowy strony.

Pełna odpowiedź UOKiK dla iGaming Polska

Poniżej publikujemy odpowiedź Urzędu w całości, bez skrótów i zmian:

Panie Redaktorze,

narzędzie, z którego korzystaliśmy m.in. w postępowaniu wobec bukmacherów działających w internecie, to DRAKE. DRAKE, czyli Dark patterns Regulatory Analysis Knowledge Engine to rozwijane przez UOKiK narzędzie oparte na sztucznej inteligencji, w tym dużych modelach językowych, zwłaszcza modelach wizyjno-językowych, przeznaczone do zautomatyzowanej analizy stron internetowych i identyfikowania tzw. dark patterns – rozwiązań mogących skłaniać konsumentów do podejmowania niekorzystnych decyzji. System analizuje warstwę graficzną i tekstową interfejsu oraz kod źródłowy strony, a następnie generuje raport, w którym wykryte nieprawidłowości przyporządkowuje do konkretnych wzorców dark patterns i elementów strony. Narzędzie jest obecnie testowane, a docelowo ma wspierać ekspertów Urzędu w szybszym wykrywaniu potencjalnie nieuczciwych praktyk.

Prace nad rozwiązaniem rozpoczęły się w 2023 r. w ramach finansowanego ze środków UE projektu „Wykrywanie i zwalczanie dark patterns za pomocą sztucznej inteligencji”. UOKiK przeanalizował ponad 300 stron internetowych, głównie z sektora e-commerce, oraz kod źródłowy 100 stron, na których zidentyfikowano dark patterns. Materiał ten wykorzystano m.in. jako dane treningowe. Przeprowadzono również badania behawioralne i neuromarketingowe z wykorzystaniem eye trackingu, facial trackingu i EEG oraz badanie symulujące rzeczywiste scenariusze zakupowe. UOKiK testował ponadto możliwości modelu GPT-4 w wykrywaniu dark patterns. Na tej podstawie powstało narzędzie analizujące układ stron, kod źródłowy oraz wykorzystujące wnioski z badań zachowań konsumentów.

DRAKE może analizować elementy interfejsu graficznego i tekstowego, które mogą wpływać na decyzje konsumentów, a także kod źródłowy strony. Wśród wzorców, których może dotyczyć analiza, UOKiK wymienia m.in. automatyczne dodawanie produktów do koszyka, domyślne zaznaczanie dodatkowo płatnych usług, liczniki i komunikaty wywołujące presję czasu lub sugerujące ograniczoną dostępność, nadmierne eksponowanie przycisków skłaniających do zakupu przy jednoczesnym ukrywaniu możliwości rezygnacji, niejasne opcje wyboru, utrudnianie rezygnacji z subskrypcji, automatyczne przechodzenie z bezpłatnego okresu próbnego na płatną usługę oraz komunikaty wywierające presję emocjonalną. Narzędzie jest uruchamiane ręcznie przez pracownika UOKiK, natomiast po jego uruchomieniu przeszukiwanie elementów danej strony odbywa się automatycznie według zaprogramowanych schematów.

Trzeba podkreślić, że narzędzie ma charakter pomocniczy i analityczny – rezultat analizy AI jest każdorazowo weryfikowany przez pracownika Urzędu, nie stanowi samodzielnej podstawy do wszczęcia dalszych działań ani postawienia zarzutów i może być jedynie jednym z elementów szerszego materiału dowodowego.

DRAKE to rozwiązanie uniwersalne, które może być na bieżąco wykorzystywane jako wsparcie analityczne dla pracowników UOKiK w różnych postępowaniach. Szczegóły prowadzonych analiz w toku konkretnych sprawa są objęte tajemnicą postępowań. Natomiast więcej informacji nt. rodzajów dark patterns (m.in. tych, w których wykrywaniu pomaga nasze narzędzie AI) można znaleźć np. w poradniku Nie klikaj w ciemno!

W odniesieniu do rynku bukmacherskiego UOKiK prowadzi postępowania wyjaśniające dotyczące wskazanych podmiotów: STS, Fortuna Online Zakłady Bukmacherskie, Superbet Zakłady Bukmacherskie, Bukmacherska (Fuksiarz), E-toto Zakłady Bukmacherskie, LV Bet Zakłady Bukmacherskie oraz Totalbet Zakłady Bukmacherskie. Niezależnie od tych postępowań Urząd monitoruje jednak cały polski rynek bukmacherski, w tym analizuje skargi i zawiadomienia konsumentów. Dobór przedsiębiorców do konkretnych działań zależy od wielu czynników, m.in. wielkości podmiotu i jego wpływu na rynek, potencjalnej skali negatywnych skutków naruszeń oraz liczby skarg konsumenckich.

Jeśli natomiast chodzi o ewentualne kary to szczegółowe zasady ich obliczania określa art. 106 ustawy z dnia 16 lutego 2007 r. o ochronie konkurencji i konsumentów. W tym postępowaniu może to być do 10 proc. obrotu osiągniętego w roku obrotowym poprzedzającym rok nałożenia kary.

AI wskazuje problem, ale ostatecznie ocenia go człowiek

Jednym z najważniejszych elementów odpowiedzi jest wyraźne zastrzeżenie dotyczące roli sztucznej inteligencji.

DRAKE nie jest systemem, który samodzielnie stwierdza naruszenie prawa albo automatycznie prowadzi do postawienia przedsiębiorcy zarzutów. Wynik wygenerowany przez narzędzie jest każdorazowo sprawdzany przez pracownika UOKiK i może stanowić jedynie fragment szerszego materiału zebranego przez Urząd.

To istotne, ponieważ wykorzystanie AI przez organ administracji w sprawach mogących prowadzić do wielomilionowych kar rodzi naturalne pytania o sposób weryfikacji wyników oraz rolę człowieka w całym procesie.

Z odpowiedzi UOKiK wynika, że DRAKE ma przede wszystkim przyspieszać wyszukiwanie elementów wymagających dalszej analizy.

Nie tylko to, co widać na ekranie

Ciekawy jest również zakres działania systemu.

DRAKE bada jednocześnie treść, wygląd interfejsu oraz kod źródłowy strony. Jego rozwój poprzedziła analiza ponad 300 serwisów internetowych, przede wszystkim z sektora e-commerce, oraz kodu 100 stron, na których wcześniej zidentyfikowano dark patterns.

Projekt obejmował też znacznie więcej niż samo trenowanie modelu na stronach internetowych. UOKiK przeprowadzał badania z użyciem eye trackingu, facial trackingu i EEG, a także testował GPT-4 pod kątem wykrywania manipulacyjnych wzorców projektowania interfejsu.

W praktyce oznacza to, że Urząd próbuje łączyć analizę technologiczną z wiedzą o tym, jak konkretne rozwiązania wpływają na zachowanie użytkownika.

Siedmiu bukmacherów w postępowaniach, cały rynek pod obserwacją

UOKiK po raz kolejny potwierdził także listę przedsiębiorców, których dotyczą prowadzone obecnie postępowania wyjaśniające.

Są to STS, Fortuna Online Zakłady Bukmacherskie, Superbet Zakłady Bukmacherskie, Bukmacherska działająca pod marką Fuksiarz, E-toto Zakłady Bukmacherskie, LV Bet Zakłady Bukmacherskie oraz Totalbet Zakłady Bukmacherskie.

To jednak nie oznacza, że pozostali legalni operatorzy znajdują się poza zainteresowaniem Urzędu.

UOKiK deklaruje, że monitoruje cały polski rynek bukmacherski. Przy wyborze przedsiębiorców do konkretnych działań bierze pod uwagę między innymi ich wielkość i wpływ na rynek, potencjalną skalę skutków ewentualnego naruszenia oraz liczbę skarg konsumenckich.

Samo prowadzenie postępowania wyjaśniającego nie przesądza oczywiście o stwierdzeniu naruszenia prawa.

Nawet 10 proc. ustawowego obrotu

UOKiK odniósł się również do potencjalnych kar.

Urząd wskazuje art. 106 ustawy o ochronie konkurencji i konsumentów oraz możliwość nałożenia kary sięgającej 10 proc. obrotu osiągniętego w roku obrotowym poprzedzającym rok nałożenia kary.

W tym miejscu istotne jest rozróżnienie terminologiczne. „Obrót” używany w ustawie o ochronie konkurencji i konsumentów nie jest tym samym, co obrót bukmacherski rozumiany na rynku jako suma postawionych stawek.

W przypadku przedsiębiorcy sporządzającego rachunek zysków i strat art. 106 wskazuje na sumę przychodów wykazanych w tym rachunku. Oznacza to, że potencjalnego limitu kary nie należy liczyć od wartości wszystkich zakładów postawionych przez klientów.

Na obecnym etapie mówimy jednak wyłącznie o ustawowym maksymalnym pułapie. UOKiK prowadzi postępowania wyjaśniające, a ich wszczęcie nie oznacza, że którykolwiek z wymienionych operatorów dopuścił się naruszenia.

DRAKE może zostać z UOKiK na dłużej

Odpowiedź Urzędu pokazuje też, że wykorzystanie DRAKE w sprawie bukmacherów nie jest jednorazowym eksperymentem.

System ma charakter uniwersalny i może wspierać pracowników UOKiK w kolejnych postępowaniach dotyczących różnych sektorów gospodarki.

Jeżeli testy zakończą się powodzeniem, sztuczna inteligencja może więc stać się stałym elementem analitycznego zaplecza Urzędu.

Dla rynku bukmacherskiego jest to szczególnie interesujące, ponieważ po raz pierwszy tak wyraźnie widać, że działania UOKiK wobec operatorów nie ograniczają się do analizy regulaminów czy dokumentów. Urząd zaczyna również technicznie badać sposób projektowania serwisów i ścieżek, którymi porusza się użytkownik.