Błędy AI w analizie zlecenia transportowego: kiedy pozornie poprawna odpowiedź może kosztować przewoźnika setki tysięcy euro? [Część 1]

Sztuczna inteligencja coraz częściej trafia do codziennej pracy firm transportowych, spedycyjnych i logistycznych, służąc między innymi do analizy zleceń, zwłaszcza w obcych językach. To niewątpliwie wygodne, ale też potencjalnie ryzykowne rozwiązanie, poniważ błedy AI bywają bardzo niebezpieczne. Chat może może bardzo przekonująco udzielić odpowiedzi błędnej, niepełnej albo opartej na założeniach, których użytkownik nawet nie zauważy, narażając przewoźnika na poważne konsekwencje, od finansowych po prawne.

Dyspozytor otrzymuje kilkustronicowe zlecenie w języku niemieckim, francuskim czy angielskim, przesyła je do AI i po kilkunastu sekundach otrzymuje podsumowanie:

„zakaz podzlecania – brak”,
„kara za spóźnienie – 500 EUR”,
„termin płatności – 45 dni”,
„brak istotnych ryzyk”,
„zlecenie można zaakceptować”.

Bezkrytyczne przyjęcie takiego podsumowania, bez samodzielnej analizy i weryfikacji kluczowych wniosków, może okazać się poważnym błędem. W transporcie jego konsekwencją nie musi być wysoka kara umowna. Może nią być utrata ochrony ubezpieczeniowej, odpowiedzialność za skradziony ładunek o wartości kilkuset tysięcy euro, wykonanie niedozwolonego kabotażu albo utrata możliwości skutecznego dochodzenia roszczenia. Największe zagrożenie pojawia się wtedy, gdy użytkownik zaczyna traktować odpowiedź AI jak gotową opinię prawną.

AI czyta dokument, prawnik analizuje

Podstawowym ograniczeniem AI jest to, że model odpowiada na podstawie informacji, które otrzymał. Jeżeli dyspozytor przesyła jedno zlecenie transportowe, AI może bardzo dokładnie przeczytać jego treść. Nie oznacza to jednak, że zna:

• umowę ramową zawartą dwa lata wcześniej,
• wcześniejsze zlecenia,
• Ogólne Warunki Współpracy,
• korespondencję pomiędzy stronami,
• ustaloną praktykę wykonywania przewozów,
• historię współpracy z klientem,
• zakres polisy OCP przewoźnika,
• wyłączenia odpowiedzialności ubezpieczyciela,
• historię konkretnego pojazdu,
• sposób, w jaki przewóz ma być faktycznie wykonany.

To prowadzi do pierwszego i jednego z najważniejszych błędów.

Błąd AI nr 1: analiza samego zlecenia bez znajomości relacji pomiędzy stronami

Wyobraźmy sobie, że przewoźnik współpracuje z tym samym kontrahentem od pięciu lat.

Strony zawarły wcześniej umowę ramową. Oprócz niej zleceniodawca stosuje Ogólne Warunki Współpracy. W toku kilkuletniej współpracy określone kwestie były dodatkowo uzgadniane mailowo.

Pojawia się nowe zlecenie.

Przewoźnik przesyła do AI wyłącznie dwustronicowy dokument i pyta:

„Czy w tym zleceniu są jakieś szczególnie niebezpieczne postanowienia?”

AI odpowiada:

„Nie stwierdzono istotnych ryzyk. Brak zakazu określonego rodzaju postoju, brak dodatkowych wymagań bezpieczeństwa.”

W czym tkwi problem?

W umowie ramowej znajduje się obowiązek parkowania pojazdów przewożących elektronikę wyłącznie na parkingach spełniających określone wymagania bezpieczeństwa.

AI nie popełniło klasycznego błędu w odczytaniu tekstu, ono po prostu nie wiedziało o istnieniu innego dokumentu, co ma fundamentalne znaczenia z prawnego punktu widzenia.

Kodeks cywilny wskazuje, że przy wykładni umowy należy badać m.in. okoliczności, zgodny zamiar stron i cel umowy, a nie ograniczać się wyłącznie do jej dosłownego brzmienia. Odrębne znaczenie mogą mieć również skutecznie włączone do stosunku prawnego wzorce, regulaminy czy ogólne warunki umów.

Gdzie pojawia się ryzyko?

Wyobraźmy sobie sytuację, w której dochodzi do kradzieży towaru podczas postoju. Dopiero po szkodzie okazuje się, że przewoźnik naruszył wymagania wynikające z dokumentu, którego AI nigdy nie otrzymało.

Z punktu widzenia AI zlecenie mogło być „bezpieczne”. Z punktu widzenia całej relacji kontraktowej – nie było.

Błąd AI nr 2: założenie, że skoro przewoźnik posiada OCP, to ryzyko jest ubezpieczone

Wspomniane założenie to jeden z najbardziej niebezpiecznych skrótów myślowych, w ocenie którego nie warto posiłkować się wyłącznie wsparciem AI.

Przykład: wartość zlecenia kontra wartość polisy OCP

Przewoźnik przyjmuje zlecenie na transport towaru o wartości 300 000 albo 500 000 euro i posiada polisę OCP na odpowiednio wysoką sumę. AI może więc wyciągnąć prosty wniosek:

„Wartość ładunku mieści się w sumie gwarancyjnej. Ryzyko jest zabezpieczone.”

Tyle że suma gwarancyjna jest dopiero początkiem analizy ubezpieczenia, a nie jej końcem. Trzeba jeszcze sprawdzić między innymi:

• zakres terytorialny ochrony,
• rodzaj wykonywanego przewozu,
• czy ochrona obejmuje kabotaż,
• czy obejmuje dany rodzaj towaru,
• jakie są sublimity,
• jakie są wymagania dotyczące zabezpieczenia pojazdu,
• gdzie pojazd może parkować,
• jakie obowiązki ma przewoźnik przy towarach wysokiej wartości,
• czy możliwe jest korzystanie z podwykonawców,
• jakie warunki trzeba spełnić przy wyborze podwykonawcy,
• czy nie istnieje szczególne wyłączenie dotyczące podzlecenia.

AI, które otrzymało jedynie zlecenie transportowe, nie jest w stanie tego zweryfikować.

Przykład: kabotaż, zakaz podzlecania i wyłączenie ochrony ubezpieczeniowej

Przewoźnik przyjmuje zlecenie dotyczące przewozu kabotażowego na towar znacznej wartości i posiada polisę OCP obejmującą ten rodzaj przewozu.

Na pierwszy rzut oka wszystko wygląda prawidłowo, jednak w zleceniu znajduje się zakaz podzlecania przewozu. Mimo tego przewoźnik przekazuje wykonanie transportu innemu przewoźnikowi, podczas którego dochodzi do kradzieży towaru.

Dopiero podczas likwidacji szkody szczegółowo analizowane są warunki ubezpieczenia. Okazuje się, że w zakresie ochrony dotyczącej kabotażu występuje wyłączenie odnoszące się do przewozów wykonywanych przez podwykonawców albo nie zostały spełnione dodatkowe warunki wymagane przez ubezpieczyciela.

Powstają wówczas dwa odrębne problemy:

• pierwszy wynika z relacji ze zleceniodawcą – przewoźnik naruszył umowny zakaz podzlecenia.
• drugi dotyczy własnego ubezpieczenia – szkoda może nie znaleźć oczekiwanego pokrycia w polisie.

Jednocześnie samo przekazanie fizycznego wykonania przewozu innemu przedsiębiorcy nie oznacza automatycznie, że przewoźnik, który przyjął zlecenie, przestaje odpowiadać wobec swojego kontrahenta. Art. 3 CMR przewiduje odpowiedzialność przewoźnika za działania i zaniechania osób, z których usług korzysta przy wykonywaniu przewozu, na warunkach określonych w Konwencji.

W rezultacie może powstać najgorszy z możliwych scenariuszy: odpowiedzialność wobec klienta pozostaje, natomiast oczekiwana ochrona ubezpieczeniowa nie działa.

Jeżeli skradziony towar był wart 400 000 euro, konsekwencje błędnej decyzji mogą być dla przedsiębiorcy bardzo poważne.

Błąd AI nr 3: nieuwzględnienie wartości przewożonego towaru

Zlecenie może wyglądać zwyczajnie:

fracht: 1 800 EUR,
trasa: 650 km,
termin płatności: 30 dni.

AI może przeanalizować stawkę, kary, terminy i dojść do wniosku, że warunki są standardowe.

Tymczasem w samochodzie ma znaleźć się elektronika o wartości 600 000 euro i właśnie ta informacja może całkowicie zmienić ocenę ryzyka.

AI może więc poprawnie stwierdzić:

„W zleceniu nie ma wysokich kar umownych.”

Tylko że największym ryzykiem tego zlecenia nie jest kara umowna. Jest nim ładunek wart 600 000 euro.

Błąd AI nr 4: zastosowanie niewłaściwego prawa

Transport drogowy nie funkcjonuje w jednym reżimie prawnym. Znaczenie ma między innymi to:

• skąd i dokąd jedzie towar,
• czy przewóz jest krajowy czy międzynarodowy,
• czy mamy do czynienia z kabotażem,
• jakie państwa są związane odpowiednimi regulacjami,
• jaki jest charakter zawartej umowy.

Konwencja CMR znajduje zastosowanie do odpłatnego drogowego przewozu towarów, gdy miejsce przyjęcia towaru i miejsce dostawy znajdują się w dwóch różnych państwach, z których co najmniej jedno jest państwem-stroną Konwencji.

Polskie Prawo przewozowe samo wskazuje natomiast, że do przewozów międzynarodowych stosuje się jego przepisy, jeżeli umowa międzynarodowa nie stanowi inaczej.

Jak może pomylić się AI?

Użytkownik wpisuje:

„Przeanalizuj odpowiedzialność przewoźnika zgodnie z polskim Prawem przewozowym.”

AI wykonuje polecenie, ale problem polega na tym, że transport przebiega z Polski do Niemiec i w pierwszej kolejności należało zbadać zastosowanie CMR.

Model może więc przygotować bardzo profesjonalnie wyglądającą analizę dotyczącą niewłaściwego reżimu prawnego.

To szczególnie ważna cecha AI:

model często stara się odpowiedzieć na zadane pytanie, zamiast zakwestionować błędne założenie zawarte w pytaniu.

Błąd AI nr 5: błędna analiza kabotażu, bo AI nie zna historii pojazdu

Przewoźnik otrzymuje zlecenie na trasie Berlin – Hamburg i przesyła je do AI z pytaniem„Czy możemy wykonać ten transport?”

AI widzi przewóz krajowy na terytorium Niemiec i dokonuje analizy, jednak legalność kabotażu nie zależy wyłącznie od treści dzisiejszego zlecenia. Znaczenie ma również to, co konkretny pojazd robił wcześniej.

Regulacje unijne przewidują m.in. ograniczenia liczby i czasu wykonywania operacji kabotażowych oraz czterodniowy okres, podczas którego ten sam pojazd nie może wykonywać kolejnego kabotażu w tym samym państwie po zakończeniu poprzedniej operacji kabotażowej.

AI analizujące pojedynczy PDF nie musi wiedzieć:

• kiedy samochód zakończył przewóz międzynarodowy,
• kiedy rozpoczął kabotaż,
• ile operacji już wykonał,
• w którym państwie,
• kiedy zakończono ostatni kabotaż.

W rezultacie może pojawić się odpowiedź:

„Nie widzę przeszkód do wykonania tego zlecenia.”

Z samym zleceniem rzeczywiście może być wszystko w porządku. Problemem może być wykonanie go przez ten konkretny pojazd właśnie dzisiaj.

AI nie zastąpi prawnika

AI może być bardzo pomocne przy wstępnej analizie zlecenia transportowego. Szybko wyszuka kary umowne, zakaz podzlecania, wymagania dotyczące dokumentów czy nietypowe postanowienia. Problem zaczyna się wtedy, gdy jego odpowiedź zostaje potraktowana jako pełna analiza prawna.

AI może wskazać problem. Doświadczony prawnik powinien ocenić jego znaczenie, zadać właściwe pytania i sprawdzić to, czego w samym zleceniu nie widać.

Temat błędów AI w analizie zlecenia transportowego będziemy kontynuować w drugiej części artykułu.