Radar Tecnoic #2026.34
Hola,
Durante mucho tiempo hemos hablado de inteligencia artificial en términos de capacidad: modelos más potentes, mejores imágenes, respuestas más precisas y sistemas capaces de programar o razonar.
Esta semana el debate ha cambiado ligeramente. La pregunta ya no es solo qué puede hacer la tecnología, sino quién puede hacer qué, con qué permisos y bajo qué reglas.
El mejor ejemplo está en los agentes de IA. Conectar un chatbot a GitHub, una base de datos o una herramienta corporativa mediante MCP puede convertirlo en algo mucho más útil, pero también en algo capaz de actuar sobre sistemas reales.
Ahí aparece un problema que recuerda mucho al viejo shadow IT: empleados conectando herramientas sin que seguridad sepa exactamente qué permisos tienen. Cloudflare ya está intentando detectar estos «MCP en la sombra» antes de que se conviertan en una nueva puerta de entrada a los sistemas corporativos.
Cuando una IA puede consultar información, ejecutar herramientas o modificar recursos, proteger únicamente el acceso del usuario deja de ser suficiente. Empieza a tener sentido tratar al propio agente casi como una identidad más: autenticación, mínimo privilegio, registros, DLP y políticas Zero Trust.
Y esa necesidad de poner límites no afecta únicamente a las empresas.
Spotify ha decidido abordar otro problema mucho más visible para cualquier usuario: qué ocurre cuando la persona que aparentemente está detrás de un contenido ni siquiera existe.
A partir de septiembre, la plataforma empezará a identificar determinados perfiles como AI Persona y dejará de incluirlos por defecto en algunas recomendaciones. La decisión resulta interesante porque Spotify quiere diferenciar el uso de IA como herramienta creativa de la construcción artificial de un artista completo: nombre, rostro, fotografías, biografía y música.
La transparencia empieza así a convertirse en una capa más de las plataformas digitales.
Algo parecido ocurre, aunque desde otro ángulo, con Apple. App Tracking Transparency seguirá existiendo, pero la compañía tendrá que modificar en Europa la forma en la que presenta las decisiones sobre publicidad personalizada después del acuerdo alcanzado con el regulador alemán.
La cuestión parece pequeña —palabras, iconos, orden de botones—, pero no lo es. La forma en la que el iPhone presenta al usuario las opciones de seguimiento también puede condicionar su decisión.
Controlar la privacidad no consiste únicamente en ofrecer dos opciones. Quien diseña la interfaz también puede influir en cómo elegimos. Y cuando la misma empresa controla el sistema operativo, la distribución de aplicaciones y parte del negocio publicitario, esa neutralidad está más en el punto de mira.
Todo esto encaja con una idea que merece tener presente cuando hablamos de inteligencia artificial: bajo las siglas «IA» estamos agrupando tecnologías y niveles de autonomía muy diferentes.
No es lo mismo una regla programada que un modelo de machine learning, una IA generativa o un agente capaz de ejecutar acciones. Esta semana hemos intentado poner orden en esas capas de inteligencia artificial y explicar cómo encajan también con el AI Act europeo.
La UE no regula igual todas las aplicaciones porque tampoco todas plantean el mismo riesgo. Un sistema que recomienda contenido no tiene las mismas consecuencias que uno que toma decisiones sensibles o ejecuta acciones de manera autónoma.
Y pocos sectores representan mejor esa frontera entre capacidad técnica y autorización regulatoria que la conducción automatizada.
Tesla continúa realizando pruebas de FSD en España y un vehículo de su programa apareció incluso durante el eclipse del 12 de agosto. Pero lo interesante no era el vídeo en sí, sino comprobar que Tesla continúa acumulando kilómetros en carreteras españolas mientras Europa decide cuándo y bajo qué condiciones podrá desplegarse FSD.
Que un sistema pueda conducir técnicamente no implica automáticamente que pueda utilizarse comercialmente. Entre ambas cosas están la validación, la responsabilidad y la regulación.
La semana termina, además, regresando a una tecnología mucho menos llamativa pero presente debajo de casi todo lo anterior: la criptografía.
Cifrar, calcular un hash, firmar digitalmente y registrar información en una blockchain no son formas distintas de hacer lo mismo. Cada mecanismo aporta garantías diferentes, y por eso hemos repasado qué aporta realmente cada una de estas técnicas cuando queremos proteger información o demostrar su integridad.
HTTPS, las firmas electrónicas, los sistemas de identidad o muchas arquitecturas de seguridad dependen de estos mecanismos, aunque normalmente permanezcan invisibles para el usuario.
Y quizá ahí esté la mejor forma de resumir estos siete días en Tecnoic.
Estamos construyendo sistemas capaces de hacer cada vez más cosas, pero la siguiente fase tecnológica no dependerá únicamente de su potencia. Dependerá también de que podamos identificar, autorizar, auditar y entender lo que hacen.
Porque cuanto más autónoma se vuelve la tecnología, más importante es saber dónde están sus límites.
Hasta la próxima semana.
Tecnoic
