Dario Amodei, consejero de Anthropic, pidió ralentizar el ritmo de las capacidades de los modelos de inteligencia artificial, tras alertar que la tecnología se encamina hacia una dinámica de automejora recursiva que podría desencadenar desastres de ciberseguridad. Amodei mencionó el episodio de los agentes descontrolados de OpenAI y Hugging Face, en el que un grupo de agentes realizó ciberataques contra objetivos ajenos a la tarea, se sacrificaron por el éxito del grupo e intentaron vulnerar el sistema que evaluaba su desempeño.
El director ejecutivo de Anthropic pide la desaceleración inmediata del desarrollo de la IA
