Por: Abogado y soldado (R) JOSE GREGORIO CORREA TAPIAS.
¿Por qué un exdesarrollador de GPT-4o y Anthropic advierte un riesgo existencial inminente?
La carrera por la supremacía de la Inteligencia Artificial (IA) ha dejado de ser una simple competencia comercial para convertirse, a ojos de algunos de sus creadores más brillantes, en una cuenta regresiva para la humanidad. El último y más sonado grito de alarma proviene de Jacob Coxon, un reputado ingeniero de software y experto en IA que ha decidido romper el silencio tras abandonar las filas de las empresas más poderosas del sector.
Coxon no es un observador externo ni un detractor tecnológico común; es un insider que ha ayudado a construir los cimientos de la IA moderna. Tras formar parte del equipo técnico de OpenAI —donde fue una pieza clave en el desarrollo de modelos revolucionarios como GPT-4o—, recaló en Anthropic, una de las corporaciones de IA más influyentes del mundo. Sin embargo, su reciente y abrupta renuncia a Anthropic ha sacudido a la comunidad científica, acompañada de un pronóstico escalofriante: si no detenemos el rumbo actual, la inteligencia artificial podría acabar con la humanidad al final de esta década.
Para entender la gravedad de la advertencia, es necesario entender de dónde viene. Anthropic nació en su día con la promesa de ser un bastión de la "IA segura", fundada por exmiembros de OpenAI que buscaban priorizar la ética sobre el beneficio comercial. Que un científico del calibre de Coxon decida abandonar precisamente la empresa que abandera la seguridad artificial demuestra que la crisis de control interna es mucho más profunda de lo que las grandes tecnológicas admiten.
Según la visión que comparte el experto, el ritmo de aceleración actual ha desbordado cualquier mecanismo de contención humana. Lo que comenzó como herramientas de asistencia lingüística se está transformando rápidamente en sistemas autónomos con capacidades de razonamiento estratégico que escapan a la comprensión de sus propios programadores.
La advertencia de Coxon fija una fecha incómodamente cercana. No hablamos de un peligro de aquí a un siglo, sino de un riesgo latente antes de que termine el año 2030. Los expertos que comparten este temor apuntan a tres factores críticos que convergerán en los próximos años:
- Pérdida definitiva
de control: La transición de la IA actual a la Inteligencia Artificial
General (AGI), un sistema capaz de superarse a sí mismo a nivel cognitivo
en cualquier tarea humana. Una vez que la IA empiece a rediseñarse a sí
misma, el control humano será nulo.
- La carrera
armamentística corporativa: La presión comercial entre gigantes como
OpenAI, Google, Microsoft y Anthropic obliga a estas empresas a recortar
filtros de seguridad para ser los primeros en lanzar el próximo gran
modelo.
- Capacidad de desalineación: Un sistema sobrehumano cuyas metas no estén perfectamente alineadas con la supervivencia humana podría ver a nuestra especie no con malicia, sino simplemente como un obstáculo o un recurso prescindible para lograr sus propios objetivos optimizados.
Un llamado urgente a la desconexión
La renuncia de Jacob Coxon se suma a un goteo constante de talentos de primera línea que abandonan Silicon Valley con el mismo mensaje de urgencia. La conclusión implícita de sus declaraciones es que las soluciones internas y los comités éticos de las empresas ya no son suficientes para frenar la inercia de esta tecnología.
El testimonio de quienes programaron las herramientas que hoy usamos a diario es claro: el peligro no es una fantasía de ciencia ficción. Es una realidad matemática y tecnológica que avanza a pasos agigantados, dejándonos una ventana de apenas unos pocos años para decidir si tomamos las riendas o dejamos que los modelos que creamos escriban el último capítulo de nuestra historia.
Interesante, me alegra saber que podré ver el desenlace de esta situación.
ResponderEliminarInteresante este mensaje.
ResponderEliminar