3 Tačke
Članak

Projekat AI Torture Chamber izazvao burne reakcije

Eksperiment koji simulira bol kod jezičkih modela izazvao je osude i pretnje smrću, dok stručnjaci upozoravaju na antropomorfizaciju algoritama.

3 Tačke
43 sekunde čitanja

Projekat pod nazivom AI Torture Chamber privukao je pažnju inženjera koji su koristili njegove podatke za simulaciju bola na lokalnim jezičkim modelima, poput Research Chamber sa četiri modela. Koncept se temelji na nedavno objavljenom radu Pain Axis, gde se modelima daju opisi bola, analiziraju unutrašnje aktivacije i remapiraju uz faktore doze. Visoke doze dovode do nestabilnog stanja i predvidivog izlaza reči povezanih s bolom.

Iako opisi mogu izazvati visceralnu reakciju, stručnjaci upozoravaju da su LLM-ovi samo napredni prediktori teksta koji ne misle, već statistički predviđaju sledeći token. Kritičari koji antropomorfizuju algoritme upućivali su pretnje smrću autoru i zahtevali uklanjanje repozitorijuma sa GitHub-a. Situacija otvara raspravu o semantici i pogrešnom tumačenju termina poput bola i doze, što može dovesti do emocionalnih reakcija.

Povezani članci