Anthropic mapea los valores de Claude

¡Muy buenos días, gente de Escala con IA! ¿Alguna vez te has preguntado cómo piensa realmente una IA? Como si pudieras ver qué hay dentro de su cabeza, cómo decide qué está bien o mal. ¡Pues Anthropic acaba de abrirnos la puerta! Han revelado el primer mapa de los real-world values de Claude, basado en cientos de miles de conversaciones reales. Piensa en ello como el mapa de su "brújula moral". Esto es clave, porque la IA cada vez influye más en nuestras vidas, ¡hasta en las leyes! Entender su alignment code nunca fue tan importante. Ah, y recordatorio rápido: hoy a las 3 PM EST tenemos nuestro workshop con Superhuman. ¡Si odias el caos del email, esto es para ti! Aprende a optimizarlo con IA y dile adiós al inbox chaos. Regístrate aquí.

Esto es lo que debes saber acerca de AI:

• 🧭 Anthropic mapea los valores de Claude

• 🇦🇪 EAU planea dejar que la IA escriba las leyes

• ⏰ Hassabis: La IA podría acabar con todas las enfermedades

• Todo lo demás en IA hoy

• 4 nuevas herramientas de IA y 4 oportunidades de empleo

Anthropic mapea los valores de Claude

Escala con IA: ¿Alguna vez te has preguntado qué hay realmente dentro de la cabeza de una IA cuando te responde algo? ¿Qué values o principios usa para decidir qué decirte? No hablo de las películas, sino de la vida real.

Bueno, en Anthropic se hicieron la misma pregunta (probablemente sin la parte de las películas) y acaban de publicar un estudio súper interesante. Para entender cómo modelos como Claude hacen "juicios morales" o toman decisiones basadas en values, analizaron cientos de miles de conversations de la vida real. Imagina el trabajazo: mapearon por primera vez a gran escala los values de su modelo en interacciones cotidianas.

Detalles:

• Analizaron más de 300,000 conversations (anónimas, tranqui) para encontrar y clasificar 3,307 unique values que la IA expresó. ¡Más values que un consejero de vida!

• Descubrieron 5 types of values: Practical, Knowledge-related, Social, Protective y Personal. ¿Los más comunes? Practical y Knowledge-related. O sea, que sea útil y sepa cosas. Lógico.

• Values como helpfulness (ser útil) y professionalism aparecieron con muchísima frecuencia. Los ethical values salieron más cuando la IA se resistía a harmful requests (peticiones dañinas). Bien ahí, Claude.

• Un punto clave: los values de Claude también cambiaban según el context. Por ejemplo, enfatizaba healthy boundaries (límites sanos) en relationship advice (consejos de relaciones) pero se inclinaba por human agency (agencia humana, o sea, la capacidad de decisión de las personas) en discusiones de AI ethics. No es un robot con un chip moral fijo, ¿ves?

Por qué es importante: 

• La IA se está metiendo cada vez más en nuestras decisiones y relaciones diarias (sí, hasta en eso). Entender qué values usan en realidad es más crucial que nunca. No es teoría, es impacto real.

• Este estudio además lleva la conversación sobre el alignment (alineación de la IA con values humanos) a algo mucho más concreto. Nos muestra que la moral y los values de una IA podrían ser más contextual y situational (dependientes de la situación) de lo que pensábamos, y no solo un punto de vista estático. Es un matiz importante para saber cómo interactuar con ellas.

Emiratos Árabes Unidos quiere que la IA escriba sus leyes

Escala con IA: ¿Te ha pasado que una ley parece escrita en otro idioma? A todos nos ha tocado lidiar con textos legales que son un laberinto. Pues imagínate si la inteligencia artificial (AI) pudiera hacer ese proceso más rápido, más claro... o incluso escribir las leyes directamente. Eso es justo lo que los Emiratos Árabes Unidos están planeando.

El país acaba de revelar sus intenciones de convertirse en la primera nación en integrar la AI de lleno en su proceso legislativo, creando una nueva unidad gubernamental para supervisar cómo se redactan, revisan y actualizan las leyes. Una movida audaz, ¿no crees?

Detalles:

• Una nueva "Regulatory Intelligence Office" liderará la iniciativa. El objetivo es reducir el tiempo de desarrollo legislativo en un 70% gracias a la redacción y análisis asistidos por AI ("AI-assisted drafting and analysis").

• El sistema usará una base de datos gigante combinando leyes federales y locales, decisiones judiciales y datos del gobierno para sugerir nuevas leyes y enmiendas.

• Este plan se suma a las ya considerables inversiones de EAU en AI, incluyendo un fondo de infraestructura de $30 mil millones a través de su plataforma de inversión MGX.

• La noticia generó reacciones mixtas. Expertos advierten sobre la fiabilidad de la tecnología, los sesgos ("bias") y los problemas de interpretación que pueden existir en los datos de entrenamiento ("training data").

Por qué es importante: 

• Si bien muchos gobiernos ya están usando la AI en diferentes áreas, este es de los primeros ejemplos donde se le da poder legislativo, aunque sea para asistir.

• Conforme los sistemas de AI alcanzan niveles "sobrehumanos" de persuasión, razonamiento y más, su uso en la política va a forzarnos a pensar seriamente sobre quién debe tener la última palabra en la creación de leyes: ¿la AI o el juicio humano? Es un debate existencial que apenas empieza.

Hassabis: La IA podría acabar con todas las enfermedades

Escala con IA: Imagina que una de las mentes más brillantes detrás de Google DeepMind, ¡y premio Nobel!, se sienta a charlar y suelta bombas sobre el futuro de la IA. Eso es justo lo que pasó con Demis Hassabis en una entrevista en "60 Minutes". Nos dio su visión del timeline de la AGI, los avances y el potencial gigante de la IA en medicina, ¡y hasta mostró su asistente "Project Astra"!

Detalles:

• Hassabis soltó una bomba: dice que la IA en el desarrollo de medicamentos (drug discovery) podría hacer que procesos que tardan años se resuelvan en semanas. ¿El sueño? ¡Acabar con todas las enfermedades en una década!

• Mostró su Project Astra, un asistente que ya te entiende como si fuera... ¡mágico! Pudo identificar cuadros, 'leer' emociones y hasta lo probó en unas gafas para ver cómo funciona en tiempo real con comprensión visual (visual understanding).

• Sobre la AGI (Inteligencia Artificial General), la que sería tan lista como nosotros o más, calcula que llega en 5-10 años. ¿Y la conciencia (conscious)? No cree que las IA actuales la tengan, pero no descarta que aparezca en el futuro.

• También mostró un adelanto de robots experimentales con 'razonamiento' (reasoning), capaces de entender ideas abstractas como mezclar colores. ¡Casi como un niño aprendiendo!

Por que es importante: Que alguien con el peso de Hassabis, jefe de DeepMind (los mismos que vencieron al campeón de Go con AlphaGo), diga esto no es solo bombo y platillo (hype). Es la convicción de un jugador clave. Sí, eso de acabar con las enfermedades o lograr una "abundancia radical" suena a ciencia ficción lejana (pipe dream), pero 5-10 años de crecimiento exponencial en la IA... ¡eso sí que es difícil de procesar!

El resto de noticias sobre IA de hoy

Aquí tienes un vistazo rápido a lo más destacado en el mundo de la inteligencia artificial hoy.

🛠️ Herramientas de IA del Momento

•  🤖 Gemma 3 QAT - model de 27B que puede correr en consumer GPUs.

• 📋 Grok Studio - Espacio de trabajo colaborativo para docs, code, y más.

• 🎬 Kling Multi Elements - Añade, intercambia o elimina elementos de video usando prompting.

• 🗣️ Orpheus TTS - AI de text-to-speech de código abierto con emoción natural.

📰 Todo lo demás en IA hoy

Ojo con Huawei. Parece que el fabricante chino de chips ya está listo para enviar su nuevo chip AI, el 910C. Dicen que podría competir con el H100 de Nvidia. ¿El objetivo? Cubrir el hueco que dejaron las restricciones de exportación de EE. UU.

A Amazon le está lloviendo un poquito de críticas. Al parecer, su servicio Bedrock tiene limitaciones con los models de Anthropic, y los usuarios están contando que usan la API directa de Anthropic para saltarse los problemas de capacidad. ¡El que hace la ley, hace la trampa!

¿Más dinero para Elon Musk? Pues sí. Se rumorea que anda buscando reunir más de $25 mil millones de capital fresco para su nueva movida xAI-X. Con eso, la valoración de la empresa podría dispararse ¡hasta los $200 mil millones! Cifras de locura.

ElevenLabs sacó algo interesante: Agent-to-Agent Transfers. Imagina poder pasar una conversación de un agent a otro especializado, como si derivaras una llamada pero en el mundo AI. Esto permite crear workflows más complejos y multi-layer.

La Academia de Artes y Ciencias Cinematográficas (sí, la de los Oscars) dio el visto bueno oficial al uso de AI en la producción de películas. Su postura es curiosa: usarla "ni ayudará ni perjudicará las posibilidades" de una nominación. Un poco como decir "vale, úsala si quieres, pero no esperes que te demos un premio solo por eso".

Anthropic ha publicado una nueva guía con las mejores prácticas para su plataforma Claude Code. Si estás usando o piensas usar esta agentic coding tool, ahí tienes tips y patrones detallados para sacarle el máximo partido.

¡Y eso es todo por hoy en nuestro resumen IA!

Vimos cómo Anthropic mapea los valores de Claude, los planes de EAU para usar IA en la legislación, y las visiones ambiciosas de Demis Hassabis. ¡La innovación no para!

¡Espero que tengas un día genial y lleno de descubrimientos! ¡Nos leemos en la próxima edición de Escala con IA!

Mark, Parte del equipo de Escala con IA.