Una startup IA quiere automatizar... ¡toda la fuerza laboral!

¡Buenos días, Escala con IA por aquí! Prepárate, porque la conversación sobre automatización laboral acaba de volverse... incómodamente directa. Imagínate esto: estás tranquilo, pensando que la IA te va a ayudar en tu trabajo, y de repente sale alguien, Tamay Besiroglu (cofundador de Epoch), y lanza una startup llamada Mechanize con un objetivo clarísimo y sin rodeos: ¡reemplazar a los humanos COMPLETAMENTE! Sí, así como lo lees. Con la pérdida de empleos ya siendo un tema y la confianza en la IA todavía en pañales, parece que convencer a la gente de que este sueño utópico de abundancia masiva es genial... pues, va a estar más difícil de lo que piensan. Hablemos de esto y más noticias que mueven el mundo de la IA hoy mismo. (No uses doble salto de línea (que no quede un espacio en blanco)).

Esto es lo que debes saber acerca de AI:

• ⚙️ Una startup IA quiere automatizar... ¡toda la fuerza laboral!

• 🤖 Cursor AI con una política 'imaginaria' que causa revuelo

• 🚀 Crea apps web full-stack sin escribir código

• 🧠 El cambio de DeepMind hacia el aprendizaje IA 'experiencial'

• 📰 Todo lo demás en IA hoy

Startup de IA quiere automatizar todo el trabajo.

Escala con IA: Agárrate de la silla, porque Tamay Besiroglu, co-fundador de Epoch (una firma de investigación en IA), acaba de lanzar Mechanize. ¿Su misión? Crear entornos virtuales y datos de entrenamiento para tener AI agents que puedan reemplazar a los humanos y lograr la "full automation of all work". Sí, leíste bien: automatizar TODO el trabajo.

Detalles:

• La idea es construir simulaciones de escenarios de trabajo para entrenar a estos AI agents en tareas complejas y de largo plazo que hoy hacemos nosotros.

• Inicialmente, Mechanize se enfocará en trabajos de oficina (white-collar jobs), creando sistemas que manejen tareas en la computadora, gestionen interrupciones y se coordinen con otros (virtualmente, claro).

• Tienen inversionistas de peso, como Jeff Dean y Nat Friedman. Estiman que el mercado potencial es brutal: $60 billones de dólares a nivel global.

• El anuncio no cayó muy bien en algunos lados. Hubo críticas por las posibles consecuencias económicas y por un potencial conflicto de interés con el rol de Besiroglu en Epoch.

Por qué es importante: Besiroglu y su equipo probablemente no son los únicos que piensan que la IA va a automatizar hasta el aire que respiramos en el trabajo. Pero, con la tensión que ya hay sobre las visiones negativas de la IA y el aumento de la pérdida de empleos, decir un objetivo así de alto podría ser como gritar en un cine: un poco demasiado ruidoso. La era de la automatización está llegando, y, bueno, no todos van a estar contentos con el boleto.

El "agente" de Cursor AI se inventa una "policy" y causa un caos (y cancelaciones)

Escala con IA: ¿Te imaginas estar lidiando con un problema técnico y que el bot de support te responda inventándose las reglas sobre la marcha? Bueno, algo así le pasó a la gente de Cursor, la plataforma de coding con IA. Resulta que su AI support agent llamado Sam, tuvo un "pequeño" episodio de hallucination y se inventó una policy falsa. ¿El resultado? Un montón de usuarios enfadados y subscription cancellations.

Detalles:

• Todo empezó cuando un usuario de Reddit se quejó de que le sacaba la sesión (logouts inesperados) al cambiar de dispositivo. Preguntó al support, y ¿quién apareció? El amigo Sam, el AI agent. Pues Sam, ni corto ni perezoso, se sacó de la manga una policy diciendo que la restricción a un solo dispositivo era una security feature intencional. ¡Imagínate! La publicación en Reddit con la supuesta policy (aquí la puedes ver) voló por los aires y desató la furia, llevando a varias cancellations.

  El co-founder de Cursor tuvo que salir a aclarar el asunto. Explicó que en realidad hubo un problema técnico real (una security update que causó login issues), pero la policy de dispositivo único fue completamente inventada por la IA. Sí, tal cual. Prometieron que ahora van a implementar AI labeling claro en las respuestas del support y a reembolsar a los usuarios afectados.

Por qué es importante: Mira, la fiebre por los AI agents está a tope, ¿verdad? Queremos que nos resuelvan la vida. Pero historias como esta de Cursor son un recordatorio clarísimo: las hallucinations siguen siendo un tema SERIO, especialmente cuando pones bots de cara al cliente (customer-facing bots). Aunque las empresas corren a automatizar el customer service, quizás, solo quizás, todavía es un poquito pronto en este AI boom para soltar la automatización completa sin supervisión. A veces, un humano, por lento que sea, no se inventa las reglas.

El giro de DeepMind al aprendizaje 'experiencial' en IA

Escala con IA: Ok, ¿te imaginas si en lugar de enseñarle a una IA solo con montones y montones de texto que ya escribimos nosotros, le pusiéramos a "vivir" experiencias? Pues eso es justo lo que proponen unos cracks de DeepMind en su paper “Welcome to the Era of Experience”. Su idea: el futuro de la IA no está solo en la data que los humanos ya creamos, sino en que la IA aprenda directamente del mundo real y su feedback, como si fueran "streams" continuos.

Detalles:

• Este paper lo firman unas leyendas de la IA, David Silver y Richard Sutton (si estás en el mundillo, te sonarán, son pioneros de RL - Reinforcement Learning). Ellos creen que la human data training es como un techo de cristal para el potencial de la IA y que no la deja descubrir cosas realmente nuevas.

• Los streams permitirían a la IA aprender sin parar, con interacciones largas, no solo respondiendo preguntas puntuales. Esto le daría esa capacidad de adaptación y improvement con el tiempo.

• En lugar de que un humano les diga si lo hicieron bien o mal, los AI agents usarían "señales" del real-world como feedback: imagina health metrics, exam scores, environmental data... lo que sea relevante para la tarea.

• Este enfoque se basa en techniques que ya hicieron que systems como AlphaZero destrozaran juegos súper complejos, pero ahora aplicándolas a scenarios del mundo real, que son mucho más open-ended y caóticos.

• Los researchers sugieren que este shift podría permitir que la IA descubra solutions que ni los humanos hemos imaginado, ¡sin dejar de ser seguras y adaptable safety measures! (¡Importante!).

Por que es importante: A ver, si la IA ya casi exprime al máximo lo que puede aprender de nuestra data, este pivot hacia el experience-based learning es como abrir una puerta a otro nivel. Podría unlock more advanced capabilities, pasando de ser "imitadores" de lo humano a ser verdaderamente autonomous (¡y superhuman!) aprendiendo y discovery por sí mismos. Es como pasar de estudiar la vida en libros a vivirla de verdad.

El resto de noticias sobre IA de hoy

• Pruebas de terceros y evaluaciones internas revelaron que los nuevos modelos o3 y o4-mini de OpenAI 'hallucinate' (inventan cosas) significativamente más que los modelos anteriores.

• Google lanzó una nueva versión de Gemma 3 con ‘Quantization-Aware Training’, permitiendo que la versión 27B corra en consumer GPUs manteniendo el rendimiento.

• Sam Altman, CEO de OpenAI, reveló que la compañía ha gastado “decenas de millones de dólares” en 'compute' (procesamiento) por usuarios diciendo “por favor” y “gracias” a sus modelos de IA.

• La Fundación Wikimedia, matriz de Wikipedia, se asoció con Kaggle de Google para publicar un 'dataset' (conjunto de datos) para desarrolladores de IA y desalentar el 'scraping' (extracción automatizada) de la plataforma.

• El MIT publicó un enfoque “sequential Monte Carlo” que genera código de IA de manera eficiente, permitiendo que modelos pequeños superen a los más grandes al eliminar resultados poco prometedores tempranamente.

• OpenAI introdujo una nueva opción de 'Flex processing', reduciendo a la mitad los costos de la API para los modelos o3 y o4-mini a cambio de respuestas más lentas.

¡Y eso es todo por hoy en nuestro resumen IA!

¡Y hasta aquí nuestro repaso rápido por las noticias más jugosas de IA hoy! Desde la audacia de Mechanize hasta los tropiezos (y aprendizajes) de otros, el mundo de la inteligencia artificial sigue girando a toda velocidad. ¿Listo para lo que viene mañana?

¡Espero que tengas un día genial y lleno de descubrimientos! ¡Nos leemos en la próxima edición de Escala con IA!

Mark, Parte del equipo de Escala con IA.