ChatGPT de OpenAI es un modelo de lenguaje de IA que ha ganado una inmensa popularidad y potencia, lo que hace que su mantenimiento resulte caro. Según la empresa de investigación SemiAnalysis, OpenAI paga hasta 700.000 dólares al día para mantener su infraestructura en funcionamiento. La mayor parte de este coste se basa en los caros servidores que necesitan. Los costes podrían ser aún mayores ahora, según Dylan Patel, analista jefe de la firma, porque estas estimaciones se basaban en GPT-3, el modelo anterior que alimenta la versión más antigua y ahora gratuita de ChatGPT. El modelo más reciente de OpenAI, GPT-4, costaría aún más, según Patel.
El elevado coste de funcionamiento de ChatGPT se debe a la demanda de potencia de cálculo del modelo. El coste no se debe a la formación, que cuesta decenas de millones de dólares, sino a la fase de inferencia, el despliegue del modelo para que lo utilicen las personas. ChatGPT requiere enormes cantidades de potencia de cálculo en costosos servidores para responder a las consultas. Los gastos operativos o de inferencia superan con creces los costes de formación cuando se despliega un modelo a cualquier escala razonable. Las empresas que utilizan los modelos lingüísticos de OpenAI llevan años pagando precios desorbitados.
Se calcula que el coste de funcionamiento de ChatGPT ronda los 700.000 dólares al día. Este coste se basa en el supuesto de una tasa de uso constante de 350.000 millones de tokens al día. Sin embargo, OpenAI no ha confirmado el coste exacto del funcionamiento de ChatGPT. Aunque es probable que el entrenamiento de los grandes modelos lingüísticos de ChatGPT cueste decenas de millones de dólares, los gastos operativos, o costes de inferencia, superan con creces los costes de entrenamiento cuando se despliega un modelo a cualquier escala razonable.
Microsoft está construyendo en secreto un chip de IA para reducir el coste de funcionamiento de ChatGPT. La empresa reconoce el enorme potencial de los modelos lingüísticos, pero también es consciente del elevado coste de su funcionamiento. Microsoft ha desarrollado un chip de IA diseñado específicamente para mejorar el rendimiento de las tareas de procesamiento del lenguaje natural. Este chip permitirá desplegar modelos lingüísticos a un coste mucho menor, lo que permitirá a las empresas aprovechar sus capacidades sin incurrir en gastos desorbitados.
El coste de funcionamiento de ChatGPT no es exclusivo de OpenAI, ya que las IA, especialmente las conversacionales que funcionan también como motor de búsqueda, son increíblemente costosas de ejecutar porque los caros y especializados chips que las sustentan consumen mucha energía. Sin embargo, dado el éxito arrollador de ChatGPT, OpenAI está gastando mucho dinero.
Además del coste de funcionamiento de ChatGPT, OpenAI también se ha enfrentado a problemas técnicos con el servicio. Múltiples motores se han caído y los usuarios han informado de que ChatGPT está a menudo “al límite de su capacidad” o arroja un error interno. A pesar de estos problemas, OpenAI ha seguido desarrollando y mejorando ChatGPT, con planes para modelos aún más avanzados en el futuro.
Fuentes: Futurism, The Information
Scott Galloway en Summit: Predicciones provocativas del futuro de la tecnología.
Scott Galloway, reconocido empresario, profesor y experto en marketing, compartió sus pensamientos y perspectivas únicas durante su participación en el Summit. En su discurso, se mostró vulnerable y transparente al hablar sobre sus propias luchas, lo que hizo que su charla fuera auténtica y conectara con la audiencia. A continuación, se resumen algunos de los […]
La mayoría de los adultos estadounidenses conoce el ChatGPT, pero su utilización es desigual
La inteligencia artificial (IA) se ha convertido en una parte cada vez más común de la vida diaria, y uno de los chatbots de IA más populares es ChatGPT. Según una encuesta reciente realizada por el Centro de Investigación Pew, el 58% de los adultos estadounidenses está familiarizado con ChatGPT, pero solo el 14% lo […]
Líderes de la IA advierten del “riesgo de extinción”
Riesgos de la IA Centenares de destacados líderes de la industria de IA y científicos de investigación firmaron una declaración de 22 palabras diciendo lo siguiente: “Mitigar el riesgo de extinción por la IA debe ser una prioridad global junto a otros riesgos a escala societal, como pandemias y guerra nuclear. Los líderes de la […]
Google apuesta fuerte por la IA: lo más destacado del evento I/O reciente
El evento I/O reciente de Google fue una emocionante demostración de innovaciones centradas en la IA. La empresa tecnológica dejó claro que se está desarrollando como una compañía “primero la IA”. En este artículo, exploraremos algunos de los aspectos más destacados del evento I/O y analizaremos cómo Google se posiciona como líder en el desarrollo […]
Imagen falsa generada por IA de explosión en el Pentágono hace que la bolsa de valores se desplome
Imagen falsa generada por IA de explosión en el Pentágono hace que la bolsa de valores se desplome: El 22 de mayo de 2023, una imagen falsa de una explosión cerca del Pentágono se volvió viral en las redes sociales. La imagen fue creada utilizando inteligencia artificial (IA) y fue compartida rápidamente por cuentas verificadas, […]
Google apuesta fuerte por la IA: lo más destacado del evento I/O reciente
El evento I/O reciente de Google fue una emocionante demostración de innovaciones centradas en la IA. La empresa tecnológica dejó claro que se está desarrollando como una compañía “primero la IA”. En este artículo, exploraremos algunos de los aspectos más destacados del evento I/O y analizaremos cómo Google se posiciona como líder en el desarrollo […]
Chatbot de Wendy para el drive-thru: Mejorando la experiencia del cliente y la eficiencia operativa
¿Estás cansado de esperar en largas filas en el drive-thru? ¿Quieres poder ordenar tu comida favorita de Wendy’s sin problemas? ¡Buenas noticias! Wendy’s se está asociando con Google para desarrollar un chatbot de inteligencia artificial (IA) que tome tus pedidos en el drive-thru, con el objetivo de reducir los tiempos de espera y mejorar la […]
IBM lanza Watsonx.ai, una plataforma de IA para empresas
La inteligencia artificial (IA) está transformando el mundo de los negocios y IBM quiere estar a la vanguardia de esta revolución. Es por eso que la empresa ha lanzado Watsonx.ai, una nueva plataforma de IA que tiene como objetivo ayudar a las empresas a construir y implementar modelos de IA con facilidad y eficiencia. Características […]
Descubre ImageBind: el último proyecto de código abierto de Meta
Meta ha desarrollado un nuevo modelo de investigación de IA llamado ImageBind, que puede entender y combinar datos de seis tipos diferentes de fuentes: texto, audio, visual, movimiento, térmico y profundidad. ImageBind es el primer modelo de IA capaz de integrar datos de seis modalidades a la vez, sin necesidad de supervisión explícita. Esto le […]
El Reino Unido y Estados Unidos toman medidas masivas sobre la regulación de la IA
La regulación de la inteligencia artificial (IA) se ha convertido en un tema prioritario para los gobiernos del Reino Unido y Estados Unidos, que han anunciado diversas acciones para supervisar el rápido avance de esta tecnología. La inteligencia artificial es una tecnología que tiene el potencial de transformar muchos sectores y actividades económicas, desde la […]