ChatGPT de OpenAI es un modelo de lenguaje de IA que ha ganado una inmensa popularidad y potencia, lo que hace que su mantenimiento resulte caro. Según la empresa de investigación SemiAnalysis, OpenAI paga hasta 700.000 dólares al día para mantener su infraestructura en funcionamiento. La mayor parte de este coste se basa en los caros servidores que necesitan. Los costes podrían ser aún mayores ahora, según Dylan Patel, analista jefe de la firma, porque estas estimaciones se basaban en GPT-3, el modelo anterior que alimenta la versión más antigua y ahora gratuita de ChatGPT. El modelo más reciente de OpenAI, GPT-4, costaría aún más, según Patel.
El elevado coste de funcionamiento de ChatGPT se debe a la demanda de potencia de cálculo del modelo. El coste no se debe a la formación, que cuesta decenas de millones de dólares, sino a la fase de inferencia, el despliegue del modelo para que lo utilicen las personas. ChatGPT requiere enormes cantidades de potencia de cálculo en costosos servidores para responder a las consultas. Los gastos operativos o de inferencia superan con creces los costes de formación cuando se despliega un modelo a cualquier escala razonable. Las empresas que utilizan los modelos lingüísticos de OpenAI llevan años pagando precios desorbitados.
Se calcula que el coste de funcionamiento de ChatGPT ronda los 700.000 dólares al día. Este coste se basa en el supuesto de una tasa de uso constante de 350.000 millones de tokens al día. Sin embargo, OpenAI no ha confirmado el coste exacto del funcionamiento de ChatGPT. Aunque es probable que el entrenamiento de los grandes modelos lingüísticos de ChatGPT cueste decenas de millones de dólares, los gastos operativos, o costes de inferencia, superan con creces los costes de entrenamiento cuando se despliega un modelo a cualquier escala razonable.
Microsoft está construyendo en secreto un chip de IA para reducir el coste de funcionamiento de ChatGPT. La empresa reconoce el enorme potencial de los modelos lingüísticos, pero también es consciente del elevado coste de su funcionamiento. Microsoft ha desarrollado un chip de IA diseñado específicamente para mejorar el rendimiento de las tareas de procesamiento del lenguaje natural. Este chip permitirá desplegar modelos lingüísticos a un coste mucho menor, lo que permitirá a las empresas aprovechar sus capacidades sin incurrir en gastos desorbitados.
El coste de funcionamiento de ChatGPT no es exclusivo de OpenAI, ya que las IA, especialmente las conversacionales que funcionan también como motor de búsqueda, son increíblemente costosas de ejecutar porque los caros y especializados chips que las sustentan consumen mucha energía. Sin embargo, dado el éxito arrollador de ChatGPT, OpenAI está gastando mucho dinero.
Además del coste de funcionamiento de ChatGPT, OpenAI también se ha enfrentado a problemas técnicos con el servicio. Múltiples motores se han caído y los usuarios han informado de que ChatGPT está a menudo “al límite de su capacidad” o arroja un error interno. A pesar de estos problemas, OpenAI ha seguido desarrollando y mejorando ChatGPT, con planes para modelos aún más avanzados en el futuro.
Fuentes: Futurism, The Information
Google apuesta fuerte por la IA: lo más destacado del evento I/O reciente
El evento I/O reciente de Google fue una emocionante demostración de innovaciones centradas en la IA. La empresa tecnológica dejó claro que se está desarrollando como una compañía “primero la IA”. En este artículo, exploraremos algunos de los aspectos más destacados del evento I/O y analizaremos cómo Google se posiciona como líder en el desarrollo […]
Imagen falsa generada por IA de explosión en el Pentágono hace que la bolsa de valores se desplome
Imagen falsa generada por IA de explosión en el Pentágono hace que la bolsa de valores se desplome: El 22 de mayo de 2023, una imagen falsa de una explosión cerca del Pentágono se volvió viral en las redes sociales. La imagen fue creada utilizando inteligencia artificial (IA) y fue compartida rápidamente por cuentas verificadas, […]
Google apuesta fuerte por la IA: lo más destacado del evento I/O reciente
El evento I/O reciente de Google fue una emocionante demostración de innovaciones centradas en la IA. La empresa tecnológica dejó claro que se está desarrollando como una compañía “primero la IA”. En este artículo, exploraremos algunos de los aspectos más destacados del evento I/O y analizaremos cómo Google se posiciona como líder en el desarrollo […]
Chatbot de Wendy para el drive-thru: Mejorando la experiencia del cliente y la eficiencia operativa
¿Estás cansado de esperar en largas filas en el drive-thru? ¿Quieres poder ordenar tu comida favorita de Wendy’s sin problemas? ¡Buenas noticias! Wendy’s se está asociando con Google para desarrollar un chatbot de inteligencia artificial (IA) que tome tus pedidos en el drive-thru, con el objetivo de reducir los tiempos de espera y mejorar la […]
IBM lanza Watsonx.ai, una plataforma de IA para empresas
La inteligencia artificial (IA) está transformando el mundo de los negocios y IBM quiere estar a la vanguardia de esta revolución. Es por eso que la empresa ha lanzado Watsonx.ai, una nueva plataforma de IA que tiene como objetivo ayudar a las empresas a construir y implementar modelos de IA con facilidad y eficiencia. Características […]
Descubre ImageBind: el último proyecto de código abierto de Meta
Meta ha desarrollado un nuevo modelo de investigación de IA llamado ImageBind, que puede entender y combinar datos de seis tipos diferentes de fuentes: texto, audio, visual, movimiento, térmico y profundidad. ImageBind es el primer modelo de IA capaz de integrar datos de seis modalidades a la vez, sin necesidad de supervisión explícita. Esto le […]
El Reino Unido y Estados Unidos toman medidas masivas sobre la regulación de la IA
La regulación de la inteligencia artificial (IA) se ha convertido en un tema prioritario para los gobiernos del Reino Unido y Estados Unidos, que han anunciado diversas acciones para supervisar el rápido avance de esta tecnología. La inteligencia artificial es una tecnología que tiene el potencial de transformar muchos sectores y actividades económicas, desde la […]
Microsoft Bing recibe potentes actualizaciones
Microsoft acaba de lanzar enormes actualizaciones para Bing Chat, que incluyen: -Respuestas de imágenes y vídeos-Plugins (similares a ChatGPT)-Historial de chats-Una mejor integración con Edge Microsoft está revolucionando el futuro de la búsqueda con su nuevo Bing impulsado por la inteligencia artificial, que se basa en el potente modelo de lenguaje GPT-4 de OpenAI para […]
La Predicción de OpenAI: El 80% de la Fuerza Laboral de EE. UU. Está en Riesgo Debido a los Grandes Modelos de Lenguaje
Recientemente, el equipo de investigación de OpenAI publicó un documento de trabajo titulado “Los GPT son GPT: Una Mirada Temprana al Potencial de Impacto en el Mercado Laboral de los Grandes Modelos de Lenguaje”. El documento presenta una predicción hecha por los propios investigadores de OpenAI de que el 80% de la fuerza laboral de […]
OpenAI pierde 540 millones de dólares en 2022 y contempla 100 mil millones más para conquistar la IA
OpenAI, la empresa dedicada a desarrollar inteligencia artificial general (AGI), reportó una pérdida de 540 millones de dólares en 2022, generando solo 28 millones de ingresos por el alto costo de su modelo de lenguaje ChatGPT, según informaron fuentes internas. La enorme pérdida resalta los desafíos financieros y las altas apuestas en la carrera por […]