Spis treści
- Błąd AI nr 6: halucynacja – przepis albo wyrok, którego nie ma
- Jak może to wyglądać w praktyce?
- Błąd AI nr 7: AI nie wie, że dokument jest niekompletny
- Błąd AI nr 8: pomyłka w odczycie jednej liczby lub jednego znaku
- Błąd AI nr 9: AI nie wie, że sposób wykonania zlecenia zmienił się pięć minut po jego analizie
- Błąd AI nr 10: Najbardziej niebezpieczne odpowiedzi AI to te, które brzmią najbardziej przekonująco
- AI: przydatne narzędzie w rękach świadomego użytkownika
W drugiej części tekstu poświęconego korzystaniu ze sztucznej inteligencji podczas analizy zleceń transportowych, punktujemy kolejne niebezpieczne błędy LLM-ów, które mogą narazić przewoźnika na straty. Tym razem pochylamy się szczególnie nad tematem “halucynacji” AI, analizą niekompletnych lub nieaktualnych danych, a także drobnych pomyłkach o ogromnym znaczeniu.
Z pierwszą częścią artykułu można zapoznać się tutaj.
Błąd AI nr 6: halucynacja – przepis albo wyrok, którego nie ma
To ryzyko specyficzne dla sztucznej inteligencji. AI może stworzyć odpowiedź, która:
- jest logiczna,
- jest poprawna językowo,
- wykorzystuje profesjonalną terminologię,
- zawiera numer artykułu,
- przywołuje rzekomy wyrok,
- podaje sygnaturę,
- przedstawia stanowisko sądu.
I mimo tego może być nieprawdziwa – to zjawisko nazywane jest potocznie halucynacją AI.
Jak może to wyglądać w praktyce?
Model pisze:
„Zgodnie z art. 37 ust. 4 Konwencji CMR przewoźnik nie ponosi odpowiedzialności w przypadku…”
W czym tkwi Problem? Taki przepis może nie regulować wskazanej kwestii.
Albo:
„Stanowisko to potwierdził Sąd Najwyższy w wyroku o sygnaturze…”
Sygnatura wygląda wiarygodnie, ale wyrok w rzeczywiostości może nie istnieć, dotyczyć zupełnie innego stanu faktycznego albo być błędnie opisany.
Najbardziej niebezpieczne w halucynacji AI jest to, że model nie musi sygnalizować niepewności.
Nie powie:
„Wymyśliłem ten przepis”.
Może przedstawić go dokładnie takim samym tonem jak informację prawdziwą.
Dlatego każda odpowiedź AI zawierająca:
- przepis,
- termin,
- limit odpowiedzialności,
- nazwę aktu prawnego,
- sygnaturę orzeczenia,
- lub cytat z uzasadnienia sądu,
powinna zostać zweryfikowana w wiarygodnym źródle.
Błąd AI nr 7: AI nie wie, że dokument jest niekompletny
Na końcu zlecenia znajduje się zapis:
„Integralną część niniejszego zlecenia stanowią Ogólne Warunki Współpracy dostępne…”
Dyspozytor przesyła AI sam formularz zlecenia, a AI odpowiada:
„Brak zakazu podzlecania.”
Tymczasem na stronie 7 Ogólnych Warunków znajduje się bezwzględny zakaz podzlecania przewozu bez wcześniejszej pisemnej zgody zleceniodawcy.
Czy AI się pomyliło?
W pewnym sensie tak – przedstawiło swoją odpowiedź jako pewną, ale podstawowym problemem było to, że otrzymało niepełny materiał. Dobry prawnik po zobaczeniu odwołania do OWW powinien zapytać o ich treść. Model AI może tego nie zrobić, tylko po prostu przeanalizować to, co zobaczył.
Błąd AI nr 8: pomyłka w odczycie jednej liczby lub jednego znaku
Nie wszystkie błędy sztucznej inteligencji dotyczą interpretacji prawa – czasami problem może powstać znacznie wcześniej.
Przykładowo, dokument zawiera zapis “temperatura +2°C do +8°C” a system odczytu dokumentu interpretuje zapis jako “–2°C do +8°C”. Lub też wartość ładunku 450 000 EUR zostaje odczytana jako 45 000 EUR.
Przy zwykłym towarze błąd może pozostać bez konsekwencji. Przy lekach, żywności, elektronice czy innych towarach wysokiej wartości jeden źle odczytany znak może całkowicie zmienić ocenę ryzyka.
Dlatego AI nie powinno zastępować weryfikacji kluczowych danych z dokumentem źródłowym
Błąd AI nr 9: AI nie wie, że sposób wykonania zlecenia zmienił się pięć minut po jego analizie
To kolejny problem charakterystyczny dla transportu.
O godzinie 10:00 AI analizuje zlecenie – przewóz miał wykonać własny pojazd przewoźnika, a analiza wygląda prawidłowo. Jednak o godzinie 12:00 okazuje się, że kierowca nie może pojechać, więc dyspozytor przekazuje transport podwykonawcy i od tego momentu wcześniejsza analiza może być już nieaktualna.
Trzeba ponownie sprawdzić:
- czy podzlecenie jest dopuszczalne,
- czy OCP obejmuje taki model wykonania,
- czy polisa podwykonawcy jest wystarczająca,
- czy podwykonawca spełnia wymagania klienta,
- czy może dalej podzlecić transport,
- czy pojazd spełnia warunki przewozu,
- czy zmiana nie wpływa na kabotaż.
AI przeanalizował jeden stan faktyczny, natomiast transport został wykonany w zupełnie innym.
Błąd AI nr 10: Najbardziej niebezpieczne odpowiedzi AI to te, które brzmią najbardziej przekonująco
Łatwo zauważyć błąd, gdy AI napisze coś absurdalnego. Znacznie trudniej, gdy odpowiada:
„Na podstawie art. X Konwencji CMR przewoźnik odpowiada maksymalnie do…”
„Z uwagi na podpisanie listu bez zastrzeżeń roszczenie jest wyłączone…”
„Kabotaż jest dopuszczalny…”
„Polisa OCP obejmuje ten transport…”
„Zlecenie nie zawiera istotnych ryzyk…”
Każde z tych zdań może wyglądać profesjonalnie, jednak każde może być również niepełne albo błędne z powodu jednej informacji, której model nie posiadał. I to właśnie jest największe ryzyko wykorzystania AI w prawie transportowym.
Nie zawsze halucynacja polega na wymyśleniu nieistniejącego przepisu. Czasem „halucynacją” biznesową jest po prostu założenie przez model faktu, którego nikt mu nie podał, jednak mimo wszystko bardzo chciał pomóc.
AI: przydatne narzędzie w rękach świadomego użytkownika
Czy ryzyko błędów powinno zniechęcić do korzystania z AI? Niekoniecznie, ale z narzędzi tego typu trzeba korzystać umiejętnie, a ich wyniki należy weryfikować.
Sztuczna inteligencja opiera się wyłącznie na danych, które otrzymała. Nie musi wiedzieć, że strony łączy umowa ramowa, że obowiązują dodatkowe OWW, że przewóz zostanie podzlecony, że polisa OCP zawiera wyłączenia albo że konkretny pojazd wykonywał wcześniej operację mającą znaczenie dla kabotażu.
AI może również popełniać tzw. halucynacje – wskazywać błędne przepisy, nieistniejące orzeczenia lub formułować zbyt kategoryczne wnioski. Co istotne, same narzędzia AI często zastrzegają, że wygenerowane informacje należy zweryfikować, a w sprawach prawnych warto skonsultować się z prawnikiem.
Dlatego przy przewozach o dużej wartości, kabotażu, podwykonawstwie, nietypowych klauzulach czy wątpliwościach dotyczących ubezpieczenia nie warto opierać decyzji wyłącznie na odpowiedzi AI.
Artykuł ma charakter informacyjny i przedstawia stan prawny na dzień publikacji lub ostatniej aktualizacji. Nie stanowi porady prawnej – w swojej sprawie skonsultuj się z prawnikiem.