La tensión y la confusión han hecho que la asociación de Microsoft con OpenAI sea «incómoda», revelaron personas familiarizadas con el asunto en un Informe del Wall Street Journal Hoy.

Esta tensión y confusión no solo se ha extendido al equipo interno de inteligencia artificial de Microsoft, que aparentemente se enfrenta a recortes presupuestarios y acceso limitado a la tecnología OpenAI, sino que las fuentes dicen que también ha ensombrecido el controvertido lanzamiento de búsqueda de Bing impulsado por IA de Microsoft en febrero pasado. En ese momento, Bing demostró ser vulnerable a los ataques de inyección rápida que revelaban secretos de la empresa y brindaban respuestas a veces inexactas y francamente desordenadas a las solicitudes de los usuarios.

Según WSJ, OpenAI advirtió a Microsoft «sobre los peligros de apresurarse a integrar la tecnología de OpenAI sin capacitarla más» y «sugirió que Microsoft ralentizara la integración de su tecnología de IA con Bing». Una de las principales preocupaciones de OpenAI era que el chatbot Sydney de Bing podría dar respuestas inexactas o desequilibradas, pero Microsoft aparentemente ignoró fácilmente esta advertencia temprana.

En un mantenimiento cableado lanzado hoy, el CEO de Microsoft, Satya Nadella, sugirió que cualquier problema con Sydney desde el principio era solo parte del plan de Microsoft para entrenar al chatbot para responder a las indicaciones del mundo real que no podían probarse en el laboratorio.

«No lanzamos Sydney con GPT-4 el primer día que lo vi, porque tuvimos que trabajar mucho para construir un arnés de seguridad», dijo Nadella a Wired. «Pero también sabíamos que no podíamos hacer toda la alineación en el laboratorio. Para alinear un modelo de IA con el mundo, es necesario alinearlo en el mundo, no en una simulación».

En parte, esa es la razón por la que Microsoft se apresuró de todos modos, pero las fuentes le dijeron al WSJ que la prisa también se debió en parte a que los ejecutivos de Microsoft tenían «dudas sobre cuándo se lanzará ChatGPT en otoño. último».

Debido a que OpenAI comenzó las pruebas públicas de ChatGPT mientras Microsoft aún estaba trabajando en la integración de la tecnología OpenAI en Bing, aparentemente creció la tensión entre los socios, quienes también se enfrentaron como rivales en una carrera por el poder.

A medida que crecía el éxito de ChatGPT, algunos empleados de Microsoft expresaron su preocupación de que ChatGPT estaba robando el «trueno» de Bing, informó WSJ. Otros postularon razonablemente que Microsoft podría aprender lecciones valiosas antes del lanzamiento de Bing a partir de las primeras pruebas públicas de ChatGPT. Como Microsoft ha visto a su socio crecer cada vez más en popularidad, es fácil ver por qué la empresa le ha dado más urgencia al lanzamiento de Bing impulsado por IA. El interés público en la tecnología estaba ahí y Microsoft quería ser una parte más importante de la conversación.

Por supuesto, ChatGPT finalmente ganó la carrera de IA, atrayendo instantáneamente a la base de usuarios de más rápido crecimiento en la historia. Mientras tanto, «el nuevo Bing», lanzado un mes después, «aún no ha alcanzado el gran éxito de ChatGPT», informó WSJ. Citando datos de la firma de análisis YipitData, WSJ informó que ChatGPT «casi duplicó el número promedio de sesiones de búsqueda diarias en comparación con la búsqueda de Bing». YipitData informó que ChatGPT alcanzó los 200 millones de usuarios mensuales, mientras que Bing alcanzó los 100 millones de usuarios activos diarios en marzo.

ChatGPT y Bing fueron posteriormente criticados por lanzar chatbots que eran culpables de inventar cosas, mentir y otros problemas que muchos usuarios no esperaban encontrar. OpenAI sigue buscando formas de limitar las llamadas «alucinaciones» de los chatbots CNBC informó en mayo. En febrero, Microsoft tuvo que actualizar Bing para limitar las conversaciones largas hasta que la empresa pudiera encontrar una mejor solución. Sin embargo, incluso después de trabajar en el tema durante meses, El borde informó que, aunque Bing puede responder con menos arrebatos desordenados durante conversaciones largas, «a menudo se equivoca».

Nadella le dijo a Wired que Microsoft ha ideado «algunos trucos realmente útiles que reducen las alucinaciones» que parecen servir como un recurso provisional hasta que la tecnología mejore y surjan nuevas soluciones.

Sin embargo, Nadella también dijo que a veces las «alucinaciones» son deseables y que cualquier solución para limitar las «alucinaciones» debe tener en cuenta que los usuarios también deben conservar la capacidad de usar chatbots de IA con fines creativos.

OpenAI no respondió de inmediato a la solicitud de comentarios de Ars. Un portavoz de Microsoft le dijo a Ars que otra razón por la que la compañía lanzó la nueva vista previa de Bing fue para responder a la mitad de todas las búsquedas web estándar que normalmente quedan sin respuesta. Microsoft también busca continuamente mejorar la autoridad y la credibilidad de los resultados web que respaldan su respuesta en modo chat, dijo el vocero, y está listo para resolver rápidamente cualquier problema imprevisto que surja.

“Nuestro enfoque es hacer que las herramientas de IA estén disponibles para las personas de manera responsable con salvaguardas para que podamos recibir comentarios, continuar aprendiendo y mejorar rápidamente estas herramientas, como lo hemos hecho con Bing”, dijo el portavoz de Microsoft a Ars.

La rivalidad va más allá de los chatbots

Cuando Wired le preguntó a Nadella por qué Microsoft invirtió en OpenAI cuando había estado invirtiendo en su propio gran modelo de lenguaje durante décadas, Nadella dijo que podía ver que «OpenAI estaba persiguiendo lo mismo que» Microsoft. En lugar de «intentar entrenar cinco modelos fundamentales diferentes» a la vez, Nadella vio la oportunidad de asociarse con OpenAI para crear «una base» donde las dos empresas independientes pudieran «perseguir un objetivo, con disciplina».

«Dijimos: ‘Vamos a construir algo que realmente capture la imaginación del mundo'», dijo Nadella a Wired.

Pero WSJ informó que la asociación es mucho más complicada que eso.

Surgieron nuevas tensiones y confusión dentro del equipo interno de IA de Microsoft, que «se quejó de la disminución del gasto». La mayoría de los empleados se sienten desalentados por la falta de «acceso al funcionamiento interno» de la tecnología de OpenAI, lo que es especialmente doloroso para los empleados que intentan integrar esta tecnología en varios productos de Microsoft. También existe la inconveniente realidad de que OpenAI y los equipos de ventas de Microsoft a veces «presentan a los mismos clientes». Gran parte de este «drama» equivale a las típicas luchas internas que ocurren cada vez que dos empresas se unen, informó WSJ, pero es imposible ignorar el conflicto inherente en ambos lados que intentan mantener su independencia mientras obtienen las máximas ganancias vendiendo el acceso a la misma tecnología. .

A pesar de estas tensiones, Nadella le dijo a Wired que OpenAI está «apostando por» Microsoft y Microsoft está «apostando por» OpenAI. Todavía visualiza «una buena asociación comercial» entre empresas independientes y ve la inversión de Microsoft en OpenAI como «un acuerdo estable a largo plazo».

Cada vez más, parece que una forma de aliviar las tensiones es acercar a las empresas en una sociedad. El WSJ señaló que Nadella anunció el mes pasado que el motor de búsqueda Bing pronto se integraría con ChatGPT, lo que dijo que era «solo el comienzo de lo que planeamos hacer con nuestros socios de OpenAI para llevar lo mejor de Bing a la experiencia de ChatGPT».