Uno de los grandes problemas que tenemos en el campo de la inteligencia artificial radica principalmente en el tiempo que se tiene que invertir para poder generar un texto tras introducir un prompt. El tiempo de respuesta ahora mismo es uno de los eslabones que se quiere superar para tener una generación prácticamente inmediata. Algo que con las GPU y CPU clásicas que conocemos no se termina de conseguir.
Es aquí donde entra en juego Groq, que no se debe confundir con Grok que es la iA presentada por Elon Musk para X. Groq es un proyecto que arrancó en 2016 de la mano de Jonathon Ross y que no tiene como misión competir con GPT-4 o cualquier LLMs. Ni tampoco con ChatGPT o Gemini. Su objetivo va mucho más allá para resolver uno de los problemas que tenía la industria.
Groq, una forma de tener conversaciones fluidas con la IA
El objetivo primordial de Groq es la de producir chips específicos para inteligencia artificial que se han llamado Language Processing Units (LPUs) y que ofrecen una generación de texto ultra rápida. Esto deja en un segundo lugar a otras opciones como los chips dedicados de grandes empresas como NVIDIA.
Tal y como ha ido relatando su creado, Groq permite tener conversaciones naturales, como si se tratara de un ser humano. Esto se consigue gracias a la velocidad de vértigo que ofrece este chip y que nos permite no tener que estar esperando varios segundos a que se genere la …