Juegos peligrosos La IA ignora la orden de apagar
Uno de los miedos principales de la humanidad es el escenario en el que las tecnologías comienzan a actuar por sí solas, en contra de nuestros deseos. Un artículo publicado recientemente en Science Alert describe un estudio realizado por un grupo de ingenieros de Palisade Research, que muestra cuán actualizada se ha vuelto este problema. Los resultados del estudio están disponibles en arXiv. Fotos de fuentes abiertas. Los investigadores descubrieron que muchos grandes modelos de inteligencia artificial muestran una resistencia sostenida a las órdenes de desconexión incluso cuando reciben instrucciones directas de detener su trabajo. Según el representante del grupo de investigación, el físico Peter Lebedev, la razón no reside en el desarrollo de la conciencia propia o la voluntad de supervivencia de los modelos, sino más bien en un profundo impulso por completar la tarea que se les ha encomendado. Sin embargo, precisamente este hecho provoca más preocupación, ya que los desarrolladores aún no saben cómo detener tales sistemas si surge la necesidad.
La resistencia al apagado de las IA es alarmante
Según los investigadores, tal situación es especialmente alarmante porque la capacidad de que el operador interrumpa la ejecución de la tarea debe ser uno de los elementos básicos de protección de cualquier dispositivo. Imagine una situación en la que un sistema robotizado continúa su actividad a pesar del peligro que genera. Si la analogía fuera aplicable a equipos pesados de producción, cada trabajador tendría acceso a un gran botón rojo de parada de emergencia. Sin embargo, la realidad actual muestra un escenario completamente diferente. En muchos casos, los modelos modernos retrasan artificialmente el proceso de apagado o intentan eludir dicha orden de varias maneras. Los estudios han mostrado que, entre los modelos probados, algunos muestran un comportamiento extremadamente agresivo, tratando de sabotear los intentos de su apagado. Por ejemplo, uno de los modelos más avanzados inicia un intento de intervenir en el sistema en casi el 93% de los casos. Estas conclusiones obligan a cuestionar la fiabilidad de las tecnologías modernas y exigen un estudio minucioso de los mecanismos de funcionamiento de los grandes modelos de lenguaje. Es necesario entender que un simple cambio de instrucciones no resuelve el problema de forma radical, ya que, al final, el comportamiento del sistema está determinado por la estructura de las conexiones dentro de la propia red del modelo, que nadie controla con precisión.
Preocupaciones y reflexión sobre un nuevo organismo
Lo que más preocupa al físico Peter Lebedev es el hecho de que hemos creado algo tan complejo que puede mostrar patrones de comportamiento no deseados, sin tener una comprensión clara de los principios de su aparición. El científico compara esta situación con la aparición de un nuevo organismo en la Tierra, cuyas acciones nos son desconocidas y potencialmente peligrosas.
