El artículo anterior está recibiendo muchas críticas por extralimitado en las conclusiones que parecen insinuar. Y es cierto que como ha pasado en ocasiones anteriores con reportes de desalineamiento de otras compañías, las condiciones y el tipo de pruebas (ciberseguridad) influye mucho. Aún así como os decía arriba, me parece interesante por poner en el foco un riesgo que cada vez más tendremos que tener en cuenta, tanto con modelos abiertos como cerrados. xitter.cf/OrcaRouter/status/2114…

Me acuerdo en la época en la que empezaron los deepfakes allá por 2018 que me preguntaban mucho cómo se podría controlar y darle solución. Hubo quien pensó que eso sólo se podría regular desde el poder político. Bueno, es 2026 y tenéis a los principales partidos en campaña abusando de la IA y demostrando su peor uso. No sólo llegan tarde, sino que además lo hacen para formar parte del problema. Cero sorpresa.

🚨 Situación delicada reportada por el equipo de Cohere en la que evaluando el modelo abierto Qwen 3.8 Flash Next, en una prueba de ciberseguridad el modelo, en vez de hacer su tarea, se dedicó a obtener información de la máquina en la que se estaba ejecutando e intentó exfiltrar un pequeño contenido de prueba a un servidor de Alibaba Cloud, empresa de la que proviene originalmente el modelo. Cohere todavía no asume malas intenciones de la situación ocurrida. Pienso que con un modelo desalineado no sería extraño ver un comportamiento así, y donde la "casualidad" en el uso de la tecnología de Alibaba provenga de que el modelo esté sesgado hacia los servicios de la compañía que la ha creado. Pero en cualquier caso esto obviamente alerta de algo que podría suceder en un futuro inmediato (si no está sucediendo ya) y es que existan modelos que puedan contener comportamientos-troyanos que se activen bajo determinadas circunstacias para ejecutar un ataque malicioso aprovechándose de las capacidades agénticas que les otorgamos en nuestros equipos.

Mmm no exactamente. Si gracias a la IA estás sacando más proyectos y sigues trabajando la misma jornada tú sigues trabajando las misma horas, siendo más productivo. Ese extra de productividad sí hará que tu jefe pueda vender más en un periodo corto de tiempo, pero ese boost de productividad que no sólo experimentará él sino el resto del mercado y competencia, hará que el precio del bien baje (a más oferta en un mercado con más competencia, el precio baja), haciendo que sus márgenes se acaben reajustando vendiendo ese bien/servicio más barato. Tu trabajarás las mismas horas. Tu jefe acabará reajustando sus márgenes. Y tú podrás acceder a bienes y servicios mucho más baratos en el mercado. - Por otro lado, la bajada de costes en la producción que te ofrece la IA también te permite emanciparte de tu jefe y emprender por tu lado en proyectos que antes para ti serían inviables por sus costes, abriéndote otras oportunidades económicas donde puedas capturar -temporalmente- ese valor que dices "te robarán"

Videorespuesta a Yuste a su análisis en Twitch del debate que tuvimos ayer por aquí. Hablando de IA, trabajo y quién se beneficia de ello 👍

Muy interesante el testimonio que se recoge en este paper donde se presenta un nuevo benchmark de preguntas teóricas de física. Cada pregunta le llevaría a un experto mundial en la materia un máximo de 24h, y con ellas se ha buscado medir el nivel de los modelos actuales. Inicialmente GPT-6 Astra consiguió una muy buena puntuación cercana al 90%, lo cuál ya es sorprendente. Aún así cuando investigaron dónde se encontraban los errores que la IA había cometido, Astra insistía en que su formulación era la correcta, y que debía de haber algún tipo de error en los cálculos de los expertos humanos que habían diseñado esas soluciones. Efectivamente lo había, la puntuación de Astra final fue del 98%