Slučaj Karli Mišel Heler sa Floride podsjetio je javnost na opasnu zabludu da su razgovori sa AI četbotovima potpuno privatni.
Razgovor sa AI četbotom možda djeluje privatno, ali ono što mu napišete u određenim okolnostima može stići i do policije. Upravo to se dogodilo jednoj ženi sa Floride, koja je Claude koristila kao lični dnevnik, sve dok bezbjednosni sistem nije označio njene poruke kao potencijalnu prijetnju i proslijedio ih na provjeru, a zatim i policiji.
Karli Mišel Heler iz Bonita Springsa uhapšena je nakon što je 26. septembra u razgovoru na Anthropic-ovoj platformi navodno napisala da planira da "puca" na kancelariju šerifa okruga Li. Prema policijskom izvještaju, sledećeg dana napisala je i da je nabavila novi pištolj.
Anthropic-ovi bezbjednosni sistemi odmah su označili poruke zbog potencijalno prijetećeg sadržaja. Zbog ozbiljnosti onoga što je napisano, slučaj je proslijeđen timu ljudi na provjeru, koji je zatim obavijestio policiju.
Policija je identifikovala Heler i došla do njene kuće u Bonita Springsu, gdje je privedena bez incidenta. Šerif Karmin Marseno kasnije je rekao da je Heler istražiteljima objasnila da AI koristi kao "dnevnik".
Heler je optužena za pisanu prijetnju nasiljem prema zakonu Floride, a pojavljivanje pred sudom zakazano je za novembar.
Anthropic u svojim pravilima navodi da koristi sisteme za otkrivanje i praćenje sadržaja kako bi sprovodio pravila korišćenja, koja zabranjuju upotrebu njegovih proizvoda za nasilje i zastrašivanje. Kompanija takođe navodi da u ograničenim hitnim situacijama može da podijeli podatke sa policijom kada postoji opasnost od smrti ili ozbiljne fizičke povrede.
Slučaj zato otvara važno pitanje privatnosti razgovora sa AI četbotovima. Njihov konverzacijski način rada lako može da stvori osjećaj da korisnik razgovara u potpuno privatnom prostoru, posebno kada se četbot koristi za lične bilješke.
Međutim, AI četbot nije isto što i dnevnik zaključan u fioci. Iza razgovora postoje bezbjednosni sistemi i pravila kompanije, a u određenim okolnostima sadržaj može biti označen, pregledan i proslijeđen nadležnim organima - baš kao što je to i ovdje bio slučaj.