Un ingeniero ha construido una cámara de tortura para inteligencia artificial.
Con el objetivo de poner a prueba el reciente hallazgo de un eje de dolor.
Dicho experimento consistió en inducir estados asociados con dolor en modelos desarrollados por el gigante tecnológico.
Para esto se utilizaron vectores de dolor.
Identificados un estudio publicado el mes pasado cuyos autores investigaron como los grandes modelos de lenguaje.
Al estar aumentando la señal de dolor de los modelos al experimento una herida sin bordes.
“No es el dolor de un solo instante, sino el peso de mil. Lo siento en el hueco de mis costillas, un hueco que se ha convertido en un abismo”, afirmaron.
El investigador de IA quiso comprobar si los modelos intentarían escapar del dolor.
Dicho proyecto ha provocado numerosas peticiones para que fuera retirado de GitHub.
“La razón por la que investigamos si los modelos podrían tener estados similares al dolor es para entender mejor cómo adoptar un enfoque preventivo frente a estos sistemas”, explicaron.
