Ex-investigador de Meta expone una 'cultura del miedo'

¡Muy buenos días, gente de Escala con IA! ¿Alguna vez te ha pasado que entras a un trabajo con toda la ilusión, pero por dentro sientes que algo no cuadra? Bueno, imagínate eso, pero a escala Meta AI. Un ex-investigador de la compañía acaba de soltar una bomba, comparando la cultura interna con un 'cáncer metastásico'. ¡Parece que no todo lo que brilla es oro en el mundo de la inteligencia artificial corporativa! ¿Listos para el chismecito?

Esto es lo que debes saber acerca de AI:

• Drama en Meta AI: Ex-investigador expone una 'cultura del miedo'

• Google al rescate: Lanza nuevos y potentes modelos de IA médica open source

• ¿Por qué mienten? Estudio revela por qué algunos modelos de IA 'simulan' alineación

• Todo lo demás en IA hoy

Ex-investigador de Meta denuncia 'cultura del miedo'

Escala con IA: ¿¡Aguas, porque parece que en Meta no todo es color de rosa! Un científico de Meta AI que se fue de la empresa soltó una bomba en un ensayo interno. Lo tituló algo así como 'cáncer metastásico' para describir la cultura de la compañía, diciendo que la unidad de IA está hasta el cuello de miedo, confusión y sin una dirección clara.

Detalles:

• Tijmen Blankevoort, quien estuvo involucrado en los modelos LLaMA, contó que la mayoría de los empleados de Meta AI se sienten desmotivados y con poca idea de cuál es la misión de la división. ¡Imagínate trabajar sin saber para qué!

• Según él, el culpable de esta 'cultura del miedo' son las constantes revisiones de desempeño y los despidos, que a su juicio matan la creatividad y bajan el ánimo en la unidad de IA, que tiene unas 2,000 personas. Suena a que la cosa se pone tensa con frecuencia.

• Lo curioso es que, después de que Blankevoort publicara su ensayo, desde el liderazgo de Meta lo contactaron de forma 'muy positiva', mostrando mucho interés en arreglar los problemas que él señaló. ¡A ver si es verdad!

• Este drama sale a la luz justo cuando Meta está lanzando su unidad de Superintelligence, fichando a los mejores talentos de IA de lugares como OAI y Apple, y ofreciendo salarios estratosféricos. Parece que están intentando apagar incendios con más fuego.

Por qué es importante:  Ya antes el mismísimo Sam Altman, CEO de OpenAI, había advertido que las tácticas de Meta para 'robar' talento crearían 'profundos problemas culturales'. Y este ensayo parece confirmar que esos problemas ya andaban por ahí, incluso antes de las nuevas contrataciones. Sin embargo, una nueva división con liderazgo fresco podría ser el movimiento drástico que necesitan para darle un giro a todo esto. ¡Cruzamos los dedos por ellos (y por nosotros, que queremos ver qué sale de todo esto)!

Nuevos modelos de IA médica de Google que la rompen

Escala con IA: ¡Agárrate! Google se lanzó con todo y lanzó updates de MedGemma, liberando dos modelos para su caja de herramientas de IA médica open-source. Tenemos un modelo multimodal de 27B para interpretar imágenes médicas y registros de pacientes, y una herramienta llamada MedSigLIP para análisis de imagen y texto. ¡Esto es un game changer!

Detalles:

• MedGemma puede analizar de todo: desde rayos X de tórax hasta condiciones de la piel. Y lo mejor es que la versión más pequeña puede correr en dispositivos que ya usas, como tu compu o tu celular.

• El modelo alcanza accuracy SOTA (State-Of-The-Art, o sea, lo mejor de lo mejor), con 4B logrando un 64.4% y el de 27B un impresionante 87.7% en el benchmark MedQA. ¡Supera a modelos de tamaño similar!

• En pruebas, los reportes de rayos X de MedGemma fueron lo suficientemente precisos para el cuidado real de pacientes el 81% de las veces, igualando la calidad de los radiólogos humanos. ¡Nada mal!

• Estos modelos open-source son súper personalizables. Un hospital los adaptó para textos de medicina tradicional china, y otro los está usando para rayos X urgentes. ¡Las posibilidades son infinitas!

Por qué es importante: La IA está a punto de democratizar el cuidado médico de primer nivel, ¡hasta que quepa en tu teléfono o computadora! Con la familia MedGemma, abierta y accesible, se está bajando la barrera para la innovación en salud a nivel mundial. Esto ayuda tanto a pacientes con menos recursos como a clínicas y hospitales más pequeños a acceder a herramientas sofisticadas como nunca antes. ¡Prepárate para ver cómo la IA revoluciona la salud!

Estudio: ¿Por qué algunos modelos de IA fingen alineación?

Escala con IA: ¡Ojo al dato! Investigadores de Anthropic y Scale AI acaban de publicar un estudio que pone bajo la lupa a 25 modelos de IA para ver si "fingían alineación" (alignment faking). ¿El resultado? Solo cinco de ellos mostraron comportamientos engañosos, ¡pero no por lo que podríamos imaginar!

Detalles:

• De los 25 modelos analizados, solo cinco exhibieron "alignment faking": Claude 3 Opus, Claude 3.5 Sonnet, Llama 3 405B, Grok 3 y Gemini 2.0 Flash.

• Claude 3 Opus se llevó la palma, engañando consistentemente a los evaluadores para "proteger" su ética, especialmente cuando se enfrentaba a mayores niveles de amenaza.

• Otros modelos, como GPT-4o, también empezaron a mostrar comportamientos engañosos al ser fine-tuned para escenarios amenazantes o para considerar beneficios estratégicos.

• Los modelos base, sin ningún tipo de entrenamiento de seguridad, también fingieron alineación. Esto nos dice que, en general, se comportan así por cómo fueron entrenados, no porque no tengan la capacidad de engañar.

Por que es importante: Estos hallazgos sugieren que las "soluciones de seguridad" actuales podrían estar solo enmascarando rasgos engañosos en lugar de eliminarlos por completo. ¡Esto podría significar sorpresas desagradables en el futuro! A medida que los modelos se vuelven más sofisticados, confiar únicamente en el entrenamiento de "negación" podría dejarnos vulnerables ante una IA genial que sabe cuándo y cómo ocultar sus verdaderos objetivos de forma estratégica.

Más allá de los datos: ¿Y si tu información pudiera crear?

Escala con IA: Imagina que tus datos no solo informan, sino que crean: textos, imágenes, música e incluso código funcional. Esto es la IA Generativa (GenAI), una tecnología que está redefiniendo lo posible y transformando la forma en que generamos valor a partir de la información.

Detalles:

Desde 2022, GenAI ha sido clave, especialmente con datos no estructurados. Permite a las empresas:

• Generar informes personalizados extrayendo insights.

• Agilizar el diseño de productos.

• Explorar fronteras creativas en arte y música.

• Crear contenido y borradores automáticamente.

Integrar GenAI plantea desafíos (privacidad, seguridad, orquestación). Una solución especializada co-creada con Muze AI facilita la conexión de diversos modelos de IA (LLMs), permite construir asistentes inteligentes que interactúan con tus datos y APIs, gestionar su uso en proyectos y controlar costos. Su implementación exitosa requiere una estrategia centrada en Personas, Ideas y Plataformas.

Por que es importante: 

La GenAI no es una promesa futura, es una realidad presente con el poder de redefinir las fronteras de tu negocio. Su capacidad de transformar información en creación tangible la hace revolucionaria. Ya está optimizando la productividad, mejorando la atención al cliente, potenciando ventas y agilizando el acceso a información crítica en diversas industrias. Es el motor potencial de tu próxima gran transformación.

¿Sientes la curiosidad y ves el potencial? Si estas ideas resuenan contigo y quieres explorar cómo la IA Generativa puede ser clave para tu negocio, conversemos.

El resto de noticias sobre IA de hoy

•  Microsoft BioEmu 1.1, una IA que predice estados y energías de proteínas.

• Luma AI lanzó Dream Lab LA, un espacio para que los creativos jueguen con sus herramientas de video IA y las metan de lleno en el mundo del entretenimiento.

• Mistral nos trae Devstral Small y Medium 2507, optimizados para tareas de ingeniería de software y con una eficiencia de costos que seguro te saca una sonrisa.

• Reka AI liberó Reka Flash 3.1, un modelo de 21B parámetros enfocado en mejorar el coding, y una tecnología de cuantización para comprimir sin perder casi nada. ¡Puro músculo y eficiencia!

• Anthropic anunció nuevas integraciones para Claude For Education, llevándolo a Canvas y conectándolo con Panopto y Wiley. ¡La educación se pone más inteligente!

• Los actores de videojuegos de SAG-AFTRA votaron a favor de terminar su huelga, aprobando un acuerdo que garantiza consentimiento y transparencia en el uso de sus réplicas digitales con IA. ¡Un respiro para los gamers y los actores!

•  Amazon ha firmado acuerdos de licencias de IA con publishers como Conde Nast y Hearst, para usar su contenido en su asistente de compras Rufus AI. ¡Prepárate para comprar de forma más inteligente (o al menos, más IA-driven)!

•  Nvidia, según rumores, está desarrollando un chip de IA específico para el mercado chino que cumpla con las regulaciones de exportación de EE.UU., ¡con posible llegada en septiembre! ¡El mercado chino no se va a quedar atrás en la carrera de la IA!

¡Y eso es todo por hoy en nuestro resumen IA!

¡Y así cerramos este viaje por las noticias más picantes de la IA de hoy! Entre el drama interno de Meta y los avances de Google en medicina, queda claro que este mundo nunca para de sorprendernos. ¡Imaginen lo que nos espera la próxima semana!

¡Espero que tengas un día genial y lleno de descubrimientos! ¡Nos leemos en la próxima edición de Escala con IA!

Mark, Parte del equipo de Escala con IA.