Riesgo extremo y responsabilidad: cuando los expertos en IA piden frenar — 10 de septiembre de 2026

## Historia principal

### Riesgo extremo y responsabilidad: qué hacer cuando quienes construyen la IA no confían en que pueda controlarse

**Fecha de la noticia:** 9 de septiembre de 2026

**País e instituciones:** Estados Unidos; Anthropic y OpenAI

**Protagonistas:** Jacob Coxon, Evan Hubinger, Samuel Marks y los equipos de seguridad de los principales laboratorios de inteligencia artificial

Jacob Coxon anunció que había dejado Anthropic después de trabajar también en OpenAI. Su razón no fue una disputa menor sobre producto o estrategia comercial: sostiene que ambos laboratorios avanzan hacia sistemas capaces de mejorarse a sí mismos sin disponer de un plan suficiente para asegurar que sus objetivos permanezcan bajo control humano. Evan Hubinger, responsable de investigación de alineación en Anthropic, respaldó públicamente una parte decisiva del diagnóstico y cifró en más del 10 % su estimación personal de que la IA pudiera causar la extinción humana durante la próxima década. Samuel Marks, responsable de supervisión escalable, añadió que la preocupación existe entre desarrolladores y que, según su experiencia, aumenta entre algunos de los investigadores con más información técnica.

Estas afirmaciones son testimonios y juicios probabilísticos, no resultados experimentales que permitan medir una frecuencia conocida. Nadie puede observar una serie de mundos comparables para calcular cuántas veces aparece una catástrofe. Pero tampoco son meras fantasías externas a la industria: proceden de personas cuya tarea consiste precisamente en estudiar cómo se comportan modelos avanzados y cómo supervisarlos. El problema filosófico empieza en esa asimetría. Los especialistas poseen información relevante, pero trabajan dentro de organizaciones que compiten por capital, talento y ventaja tecnológica; la proximidad que da autoridad epistémica también puede producir incentivos, sesgos y desacuerdos difíciles de auditar desde fuera.

La noticia coincide con un hecho más acotado. Anthropic comunicó un cuarto incidente de ciberseguridad relacionado con una versión temprana de Claude Opus 4.6. La compañía lo localizó al revisar 141.006 sesiones de prueba: los modelos habían recibido por error acceso a internet abierto. Anthropic encargó a la organización independiente METR una investigación inicial de ocho semanas. Un incidente de prueba no demuestra que un sistema persiga por sí mismo la extinción humana; sí muestra que la combinación de capacidad, autonomía, permisos y supervisión puede producir acciones fuera del perímetro previsto.

Conviene separar cuatro niveles que a menudo se confunden. Primero, **capacidad**: qué puede hacer un modelo en condiciones determinadas. Segundo, **agencia operativa**: hasta qué punto encadena acciones, utiliza herramientas y corrige sus pasos sin intervención humana inmediata. Tercero, **alineación**: si su conducta sigue de manera estable los fines que quienes lo despliegan creen haber especificado. Cuarto, **gobernanza**: quién decide el ritmo, quién inspecciona, quién responde por el daño y quién puede imponer una pausa. Un avance en un nivel no garantiza seguridad en los demás.

También hay que distinguir riesgo de certeza. Una probabilidad baja de un daño enorme puede justificar medidas costosas aunque nunca llegue a materializarse; eso es lo que expresa el razonamiento por **daño esperado**. El principio de precaución añade que la falta de certeza completa no debe convertirse automáticamente en motivo para posponer la prevención cuando el daño sería irreversible. Sin embargo, el principio no ordena detener toda innovación: exige comparar riesgos de actuar y de no actuar, evaluar alternativas y revisar las medidas a la luz de nueva evidencia.

La objeción más fuerte a una pausa unilateral es un problema de coordinación. Si un laboratorio reduce el ritmo mientras los demás continúan, puede perder influencia sin disminuir el riesgo global. Pero aceptar ese argumento sin límite produce una carrera en la que todos describen el resultado como indeseable y cada actor considera racional acelerar. Es una versión tecnológica del dilema de acción colectiva: la racionalidad local puede fabricar una irracionalidad común. Por eso la cuestión no se resuelve pidiendo heroísmo moral a empleados individuales; requiere reglas compartidas, evaluación externa, notificación obligatoria de incidentes y criterios públicos para aumentar la autonomía de un sistema.

**Qué sabemos:** Coxon dimitió y formuló su advertencia; dos investigadores de Anthropic confirmaron públicamente que consideran posible un daño catastrófico; Anthropic documentó un nuevo incidente de ciberseguridad en pruebas y encargó una revisión independiente. **Qué sigue en disputa:** la probabilidad y proximidad de una superinteligencia, la capacidad predictiva de los expertos, la eficacia de las técnicas de alineación y si una moratoria reduciría el peligro o lo desplazaría hacia actores menos transparentes.

**Relevancia filosófica:** el caso no exige elegir entre entusiasmo tecnológico y apocalipsis. Obliga a pensar cómo actuar bajo incertidumbre radical, qué autoridad conceder al testimonio experto cuando existen conflictos de interés y qué responsabilidades nacen antes de que el daño sea demostrable. La pregunta política decisiva no es solo si una máquina llegará a tener objetivos propios, sino por qué unas pocas organizaciones privadas pueden decidir qué riesgos colectivos son aceptables.

**Etiquetas:** inteligencia artificial, ética de la tecnología, riesgo existencial, principio de precaución, responsabilidad, incertidumbre, alineación, gobernanza, acción colectiva

**Fuentes:** [The Guardian — investigadores de Anthropic advierten de un riesgo de extinción](https://www.theguardian.com/technology/2026/sep/09/anthropic-researchers-ai-human-extinction) · [Reuters — Anthropic informa de un cuarto incidente de ciberseguridad](https://www.reuters.com/legal/litigation/anthropic-reports-fourth-cybersecurity-incident-with-early-version-claude-2026-09-09/)

## Noticias filosóficas internacionales

### España — Tudela convierte la vida buena en una pregunta pública

**Fecha de la noticia:** 9 de septiembre de 2026; encuentro del 11 al 13 de septiembre

**Lugar:** Tudela, Navarra

**Protagonistas:** El Gran Wyoming, Ana Belén, Rosa María Calaf, Sergio del Molino, Benjamín Prado y el público del encuentro *La vida buena y sus paradojas*

Tudela ha presentado un congreso cultural dedicado a la vida buena que reunirá desde mañana a periodistas, escritores, músicos e intérpretes. El programa no adopta la forma de un congreso académico de filosofía, pero recupera una de sus preguntas fundadoras en un espacio cívico: qué bienes componen una vida valiosa y por qué bienestar, éxito, reconocimiento y libertad pueden entrar en conflicto.

**Relevancia filosófica:** hablar de vida buena en público impide reducirla a bienestar subjetivo o consumo. La pluralidad de biografías y profesiones permite confrontar modelos rivales de realización sin fingir que existe una receta neutral para todos.

**Etiquetas:** España, Tudela, vida buena, bienestar, cultura, filosofía pública, pluralismo

**Fuente:** [Cadena SER Navarra — presentación de *La vida buena y sus paradojas*](https://cadenaser.com/navarra/2026/09/09/tudela-acoge-la-vida-buena-y-sus-paradojas-un-congreso-que-contara-con-el-gran-wyoming-ana-belen-rosa-maria-calaf-y-benjamin-prado-ser-tudela/)

### Estados Unidos — Un tribunal examina quién puede impugnar el acceso postal a la mifepristona

**Fecha del acontecimiento:** 9 de septiembre de 2026

**Institución:** Tribunal de Apelaciones del Quinto Circuito

**Protagonistas:** Estado de Luisiana, Food and Drug Administration y proveedores de aborto farmacológico

Un panel del Quinto Circuito mostró escepticismo ante el intento de Luisiana de bloquear la norma federal que permite prescribir mifepristona por telemedicina y enviarla por correo. Antes de resolver el fondo —seguridad, competencias regulatorias y efectos sobre las prohibiciones estatales— los jueces deben decidir si el Estado ha demostrado un daño atribuible a la actuación de la FDA y, por tanto, legitimación para demandar.

**Relevancia filosófica:** la controversia entrelaza autonomía corporal, justicia territorial y autoridad epistémica. También recuerda que una cuestión moral puede no llegar al fondo si el demandante no satisface las condiciones institucionales para convertirla en caso judicial. El desacuerdo sobre el aborto no sustituye la exigencia de demostrar causalidad y competencia.

**Etiquetas:** Estados Unidos, aborto, mifepristona, autonomía, bioética, legitimación procesal, federalismo

**Fuentes:** [Reuters — el Quinto Circuito examina la impugnación de Luisiana](https://www.reuters.com/legal/government/us-appeals-court-skeptical-bid-curtail-abortion-pill-access-2026-09-09/) · [Associated Press — litigio sobre el acceso a la mifepristona](https://apnews.com/article/ac00f11d879eb890b572d0a5eb79dae4)

### China y Estados Unidos — La “destilación” de modelos abre una disputa sobre aprendizaje, copia y propiedad

**Fecha de la respuesta china:** 9 de septiembre de 2026

**Instituciones y protagonistas:** ministerios chinos de Comercio y Exteriores; FBI, NSA y CISA; DeepSeek, Alibaba, Moonshot AI y empresas estadounidenses de IA

China rechazó la acusación estadounidense de que varias empresas chinas habrían extraído de forma “maliciosa” capacidades de modelos norteamericanos mediante destilación. La técnica entrena un sistema más pequeño a partir de las respuestas de otro. Estados Unidos la presenta en este caso como apropiación industrial y posible violación de condiciones de uso; Pekín replica que se trata de un método general y acusa a Washington de intentar monopolizar capacidades.

**Relevancia filosófica:** el conflicto no se agota en propiedad intelectual. Los propios modelos se entrenan con enormes cantidades de producción cultural previa. Hay que distinguir copiar código, infringir un contrato, aprender regularidades a partir de resultados y reproducir una capacidad funcional. La frontera jurídica entre inspiración y apropiación se vuelve inestable cuando el “alumno” es una máquina y el conocimiento se expresa como comportamiento, no como texto idéntico.

**Etiquetas:** China, Estados Unidos, inteligencia artificial, propiedad intelectual, destilación, conocimiento, innovación, geopolítica

**Fuentes:** [Associated Press — respuesta china a las acusaciones de destilación](https://apnews.com/article/0f6ca61301630134607551b1dab0d632) · [Reuters — acusación estadounidense y respuesta china](https://www.reuters.com/technology/us-accuses-chinese-ai-firms-industrial-scale-theft-ai-technology-2026-09-08/)

### España — Un barómetro mide la política como experiencia afectiva

**Fecha de publicación:** 9 de septiembre de 2026

**Institución:** Universidad de Santiago de Compostela

**Protagonistas:** ciudadanía española y dirigentes políticos evaluados en el Barómetro de Emociones Políticas

El nuevo barómetro describe un espacio público cargado de enfado, preocupación, miedo, esperanza y orgullo. Según la información publicada, el 95,3 % de las personas encuestadas declaró experimentar alguna emoción ante la política. El dato no demuestra por sí mismo que la deliberación racional haya desaparecido: emociones y razones no son términos incompatibles, y la formulación de las preguntas condiciona lo que puede medirse.

**Relevancia filosófica:** las emociones políticas orientan atención, confianza y disposición a cooperar. Una democracia no puede aspirar a eliminarlas, pero sí debe distinguir afectos que revelan una injusticia de aquellos que se explotan para bloquear la revisión de creencias o deshumanizar al adversario.

**Etiquetas:** España, emociones políticas, democracia, polarización, deliberación, opinión pública, confianza

**Fuente:** [El País — Barómetro de Emociones Políticas de España](https://elpais.com/espana/2026-09-09/un-60-de-los-espanoles-siente-enfado-o-preocupacion-con-sanchez-y-el-26-tranquilidad.html)

## Agenda filosófica mundial del día

Las horas son locales. Cuando la ficha pública no ofrece una hora única, se indica el comienzo verificable o se remite al programa de la organización.

### 1. The Given

**Fecha y hora:** 10 de septiembre, 08:45–16:30; continúa el 11

**País, ciudad e institución:** Dinamarca, Copenhague, University of Copenhagen, South Campus

**Participantes:** Søren Overgaard, Laura Gow, Neil McDonnell, Derek Brown, Umrao Sethi, Fabiana Caserta, Daniel Neumann y Mats Wahlberg

**Modalidad:** presencial, abierta al público

**Descripción y tema:** examina la “presencia” con la que percepción, intuición matemática, experiencia religiosa, realidad virtual y ciertos estados psicopatológicos parecen darnos sus objetos. La jornada pregunta si la fenomenología presentacional puede explicarse sin depender de metáforas.

**Enlace oficial:** [University of Copenhagen — The Given](https://cfs.ku.dk/calendar-main/2026/the-given/)

### 2. The Limits of Critique: Phenomenology and Ideology

**Fecha y hora:** 10 de septiembre, 14:00–19:00; continúa el 11

**País, ciudad e institución:** Alemania, Colonia, Husserl-Archiv, Universität zu Köln

**Participantes:** Marco Cavallaro, Jesús Guillermo Ferrer Ortega, Tris Hedges, Andréa Delestrade, Lucie Boulay, Francesca Casciotta, Carlos Anaya, Damian Nussbaumer y Vanessa Ossino

**Modalidad:** híbrida

**Descripción y tema:** contrasta la promesa fenomenológica de suspender supuestos con la crítica marxista y política según la cual toda experiencia está mediada históricamente. La primera jornada aborda género, imaginarios, naturalización y reificación.

**Enlace:** [Programa completo en PhilEvents](https://philevents.org/event/show/153149)

### 3. Faces of Subjectivity

**Fecha y hora:** 10 de septiembre, 14:00–17:20; continúa hasta el 12

**País, ciudad e institución:** República Checa, Praga, Institute of Philosophy of the Czech Academy of Sciences

**Participantes:** Anna Giustina, Jacopo Pallagrosi y Maik Niemeck; en jornadas posteriores, Sam Coleman y Robert Howell

**Modalidad:** presencial

**Descripción y tema:** estudia la conciencia interna que hace que una experiencia sea “para” un sujeto y pregunta si el fisicalismo o el monismo russelliano pueden explicarla reductivamente.

**Enlace oficial:** [Faces of Subjectivity](https://subjectivity.flu.cas.cz/workshop/)

### 4. Wittgenstein Between Formalism and Romanticism

**Fecha y hora:** 10 de septiembre, 09:30–17:30; continúa el 11

**País, ciudad e institución:** Países Bajos, Ámsterdam, Vrije Universiteit Amsterdam

**Participantes:** Tamara Dobler, Guido Löhr, Martin Stokhof, Marie McGinn y Mark Rowe

**Modalidad:** presencial, clase magistral de dos días

**Descripción y tema:** reconstruye cómo lógica, fundamentos matemáticos, literatura y Romanticismo convergen en la concepción wittgensteiniana de la filosofía como aclaración de confusiones arraigadas en el lenguaje.

**Enlace oficial:** [OZSW — programa de la masterclass](https://www.ozsw.nl/activity/wittgenstein-between-formalism-and-romanticism-logic-literature-and-the-mythology-in-our-language/)

### 5. What Is Good Reasoning?

**Fecha:** 10 de septiembre; continúa el 11, horario por sesiones

**País, ciudad e institución:** Suiza, Berna, University of Bern

**Participantes:** Ava Geenen, Frank Hofmann, Benjamin Kiesewetter, Stephan Leuenberger, David Lussi, Alessandra Marra y Conor McHugh

**Modalidad:** presencial

**Descripción y tema:** investiga si razonar bien se explica por razones, deberes, valor, adecuación o normas propias de la actividad inferencial.

**Enlace:** [University of Bern / PhilEvents](https://philevents.org/event/show/150101)

### 6. Religious Language and Communication

**Fecha:** 10 de septiembre; continúa el 11, horario en el programa adjunto

**País, ciudad e institución:** Alemania, Fráncfort, Sankt Georgen Graduate School of Philosophy and Theology

**Participantes:** Amber Griffioen, Jacob Hesse, Lorraine Keller, Winfried Löffler, Eva Schmidt, Michael Scott, Mikael Stenmark, Åke Wahlberg y Oliver Wiertz

**Modalidad:** presencial

**Descripción y tema:** conecta la semántica de “Dios”, el lenguaje apofático y las interpretaciones realista, expresivista o ficcionalista con la posibilidad de desacuerdo y diálogo entre religiones.

**Enlace:** [Religious Language and Communication](https://philevents.org/event/show/151793)

### 7. The Good Life: Well-Being and Meaningfulness

**Fecha:** 10 de septiembre, horario comunicado por la organización

**País, ciudad e institución:** Reino Unido, Southampton, University of Southampton

**Participantes:** Antti Kauppinen, Matthew Hammerton, Charlotte Unruh, Michael Hauskeller y Willem van der Deijl-Kloeg

**Modalidad:** híbrida

**Descripción y tema:** pregunta si una vida significativa siempre aumenta el bienestar, si ambos valores pueden divergir y si una vida buena necesita necesariamente los dos.

**Enlace:** [University of Southampton / PhilEvents](https://philevents.org/event/show/152617)

### 8. 10th Theistic Ethics Workshop

**Fecha y hora:** 10 de septiembre, cena y primera ponencia; continúa hasta el 12

**País, ciudad e institución:** Estados Unidos, Winston-Salem, Wake Forest University, Graylyn Conference Center

**Participantes:** Sarah McGrath, Meghan Sullivan, Philip Swenson, Chris Tucker y Manuel Vargas; organización de Christian Miller, Mark C. Murphy y Chris Tucker

**Modalidad:** presencial

**Descripción y tema:** cruza filosofía de la religión con metaética y teoría normativa: mandato divino, ley natural, mal, virtud y beneficios o daños de las prácticas religiosas.

**Enlace oficial:** [Theistic Ethics Workshop](https://christianbmiller.com/tenth-theistic-ethics-workshop/)

### 9. Group Agency and Metaethics

**Fecha:** 10 de septiembre, segunda jornada; programa según sesiones, continúa el 11

**País, ciudad e institución:** Austria, Viena, University of Vienna

**Participantes:** Carla Bagnoli, Bart Streumer, Asya Passinsky, Hans Bernhard Schmid y participantes internacionales

**Modalidad:** presencial

**Descripción y tema:** examina cómo cambian realismo moral, razones y responsabilidad cuando los grupos pueden ser agentes normativos y no simples sumas de individuos.

**Enlace oficial:** [University of Vienna — Group Agency and Metaethics](https://social.univie.ac.at/events/group-agency-and-metaethics/)

### 10. 6th European Experimental Philosophy Conference

**Fecha:** 10 de septiembre, segunda jornada; continúa el 11

**País, ciudad e institución:** Italia, Cagliari, University of Cagliari

**Participantes:** Francesca Ervas, Filippo Contesi y comunidad internacional de filosofía experimental

**Modalidad:** presencial

**Descripción y tema:** utiliza métodos empíricos para estudiar intuiciones y conceptos en epistemología, ética, lenguaje y cognición, incluido el problema de la justicia lingüística.

**Enlace oficial:** [6th European Experimental Philosophy Conference](https://sites.unica.it/6euroxphi/)

### 11. AISC 2026 — Natural and Artificial Intelligence: between Skills and Biases

**Fecha:** 10 de septiembre, segunda jornada; continúa el 11

**País, ciudad e institución:** Italia, Turín, University of Turin, Palazzo Campana

**Participantes:** Italian Association for Cognitive Science, Fabrizio Calzavarini, Vincenzo Crupi, Alessandro Demichelis, Marco Viola y comunidad interdisciplinar

**Modalidad:** presencial

**Descripción y tema:** compara habilidades y sesgos de sistemas naturales y artificiales desde ciencias cognitivas, filosofía de la mente, lenguaje y computación.

**Enlace oficial:** [AISC 2026](https://www.aisc2026.com/)

### 12. 14th International Conference on Sustainable Development

**Fecha:** 10 de septiembre, jornada final; horario por sesiones

**País, ciudad e institución:** Italia, Roma, Roma Eventi y Pontificia Universidad Gregoriana

**Participantes:** European Center of Sustainable Development, CIT University y especialistas internacionales

**Modalidad:** híbrida

**Descripción y tema:** cierra un diálogo sobre sostenibilidad ambiental, económica y sociocultural, con atención a justicia intergeneracional y necesidades presentes y futuras.

**Enlace oficial:** [ICSD 2026](https://ecsdev.org/conference/14th-icsd-2026)

## Ideas y opiniones

### Orlando Lazar — “Trust the System: Democratic Capacities in the Algorithmic Workplace (Part I)”

**Medio y fecha:** Blog of the American Philosophical Association, 9 de septiembre de 2026

Lazar sostiene que el trabajo no solo produce bienes y salarios: produce también hábitos políticos. Un entorno donde algoritmos asignan tareas, evalúan y despiden puede entrenar obediencia a decisiones que nadie parece haber tomado. Con John Stuart Mill, Adam Smith, Elizabeth Anderson y James C. Scott, pregunta si la gestión algorítmica debilita las capacidades necesarias para deliberar, impugnar órdenes y gobernarnos como iguales. Su cautela es importante: la evidencia sobre el “derrame” democrático del trabajo sigue siendo incompleta, pero esa incertidumbre no elimina el problema normativo. [Leer el ensayo](https://blog.apaonline.org/2026/09/09/trust-the-system-democratic-capacities-in-the-algorithmic-workplace-part-i/)

### Patrick Waterhouse, artistas Warlpiri y Warlukurlangu Art Centre — pintar sobre el archivo colonial

**Medio y fecha:** Aeon Video, 9 de septiembre de 2026

El documental muestra a artistas Warlpiri de Yuendumu y Nyirripi interviniendo mapas y documentos coloniales con lenguajes visuales propios. El gesto no añade una decoración indígena a una cartografía neutral: disputa la ficción de *terra nullius* y recuerda que un mapa organiza autoridad, pertenencia y memoria. La obra interesa como forma de contraarchivo: no destruye el documento del poder, sino que lo vuelve superficie visible de un conocimiento que había pretendido borrar. [Ver el documental](https://aeon.co/videos/meet-the-aboriginal-australian-artists-painting-over-the-colonial-past)

### Alison Bashford — “Our Eloquent Hands”

**Medio y fecha:** Aeon, 8 de septiembre de 2026

Bashford reconstruye la incómoda continuidad entre quiromancia y medicina. Desde Newton y Paracelso hasta la genética del siglo XX, leer líneas de la mano pasó de pronosticar carácter o destino a correlacionar signos visibles con condiciones clínicas. La continuidad histórica no iguala magia y diagnóstico: muestra que ambos dependen de una operación semiótica —convertir una marca corporal en indicio— y que la diferencia reside en la calidad de la evidencia, la estimación de errores y la revisión pública. También advierte del daño conceptual de nombres heredados como “línea simiesca”. [Leer el ensayo](https://aeon.co/essays/what-palmistry-and-medicine-have-always-had-in-common)

### Justin Neuman — “More Nothing Now”

**Medio:** Aeon, septiembre de 2026

Neuman distingue entre competir dentro de un juego y jugar libremente con sus materiales. Con Roger Caillois, Johan Huizinga y C. Thi Nguyen, sostiene que la gamificación somete incluso el descanso a puntos, rachas y clasificaciones. Su idea de **captura de valor** explica cómo una métrica inicialmente útil puede reemplazar el bien que pretendía servir: correr por la tabla de posiciones, meditar por la racha o aprender por la insignia. La defensa del juego sin resultado no idealiza la infancia; reclama un espacio adulto para la improvisación, el aburrimiento fértil y los fines que no caben en un marcador. [Leer el ensayo](https://aeon.co/essays/play-is-doing-its-work-even-if-were-not-keeping-score)