Rick Keel rendőr őrmester heti 6-8 óra munkát spórolt meg azzal, hogy nem neki kellett írnia a jelentéseit, aminek nagyon örült, amíg neki és a kollégáinak is rá nem kellett jönnie, hogy az erre használt program, a Draft One nem működik tökéletesen. Erre akkor jöttek rá, amikor az egyik jelentésből értesültek róla, hogy az egyik Heber Cityben szolgáló rendőr békává változott.

A problémát Keel szerint valószínűleg az okozta, hogy az egyik felvételbe beszűrődött a 2009-es Disney-mese, A hercegnő és a béka hangsávja, a Draft One pedig így próbálta értelmezni az eseményeket. Nem ez volt az egyetlen hiba az elkészült jelentésben, de Keel szerint a rendőrség ragaszkodik a mesterséges intelligencia használatához, ha pedig végül nem a Draft One-t választják, egy Code Four nevű programot tesztelnek majd helyette.

Az nem világos, hogy ez mennyivel működhet majd jobban, mint a Draft One, ez utóbbi ellen azonban már a bejelentése óta tiltakoznak a szakértők. Andrew Ferguson jogász attól tart, hogy a rendőrök nem nézik át elég alaposan az így készült jelentéseket, amelyekhez ráadásul gyakran lehetetlen is lenne hozzáférni, így adott esetben sosem derülne ki, hogy történt-e valamilyen visszaélés, illetve hallucinált-e a program.

Mi baj lehet?

Az Electronic Frontier Foundation többek között az ellenőrizhetőség hiányára panaszkodik a tavaly megjelent jelentésében, amit azután készítettek, hogy a rendőrség bejelentette, hogy ezzel a megoldással kísérleteznek majd, de arra is felhívja a figyelmet, hogy az OpenAI GPT nagy nyelvi modelljét használó program fejlesztője ugyanaz a cég, az Axon, mint amelyik a Tasereket (sokkolókat) szállítja a rendőrségnek.

A Draft One (és a Code Four) kritikusai attól is tartanak, hogy a programok előítéletesek lehetnek (az ilyesmi előfordulhat), de nem túl megnyugtató abba sem belegondolni, hogy ha a békává változott rendőr bekerülhetett a jelentésbe, mi minden más kerülhet még bele. Az így kezeld adatok sorsa is aggályos, igaz, a rendszert egyelőre csak tesztelik, és komoly ügyekben állítólag nem is használják a mesterséges intelligenciával rögzített jegyzőkönyveket.

Ferguson szerint a rendőrök által írott jelentéseknek is megvannak a maguk hibái, de talán kevésbé súlyosak, mint a mesterséges intelligencia hallucinációi. Bár az Axon szerint szinte lehetetlen megkülönböztetni, hogy ember vagy gép írta-e a jelentést, egyelőre erre azért van egy megbízható mód: a Draft One által összeállított szövegeknél kötelező feltüntetni, hogy mesterséges intelligencia generálta őket. Már ha a béka miatt nem lógna ki eleve a lóláb.