Desde que ChatGPT se encuentra entre nosotros, cada vez somos más conscientes de las capacidades que pueden llegar a abarcar las tecnologías basadas en inteligencia artificial y en grandes modelos de lenguaje. GPT-4 se ha consolidado como el más popular y completo entre los existentes. Sin embargo, desde hace un tiempo hemos visto cómo otras compañías se han atrevido a hacerle frente con sus propios modelos.
Anthropic es una de esas compañías que más cerca se encuentra en lo que respecta a plantarle cara a OpenAI con sus modelos de lenguaje. La empresa, formada por veteranos de OpenAI, ha puesto toda la carne en el asador con su chatbot Claude, que desde hace un tiempo han ido expandiendo con mayor longitud de contexto, rendimiento y demás. Ahora llega Claude 2.1, el cual entre las novedades encontramos una ventana de contexto de hasta 200K tokens.
Claude quiere consolidarse como el mejor chatbot
No hace mucho nos sorprendieron con una ventana de contexto de hasta 100K, permitiendo al chatbot analizar y generar mucha más información que sus competidores. GPT-4 ha sido un duro hueso de roer, y si bien ahora es compatible con una ventana de contexto de hasta 128K, Anthropic les vuelve a pasar de lado con Claude 2.1.
Cabe destacar que contar con una ventana de contexto más amplia no significa necesariamente que el chatbot sea mejor en todo. Existen determinados aspectos en los que un chatbot se desenvolverá mejor que otro, independientemente de su ventana de contexto. Todo depende de la información que le otorguemos, su número de parámetros utilizados para su entrenamiento, y los algoritmos presentes en sus respectivos modelos de lenguaje.
Imagen: Greg Kamradt
En Claude 2.1, además de esa ventana de contexto de 200K, desde la compañía aseguran que su chatbot alucinará mucho menos que en versiones anteriores y en definitiva, se tratará de una actualización que otorgará mucha más precisión que su modelo actual.
Sin embargo, estas no han sido las únicas nuevas características de Claude 2.1. Y es que el chatbot también será compatible con el uso de herramientas experimentales. Esto permitirá a los usuarios poder ofrecerle información externa al modelo para que Claude acumule y procese datos y luego así tomar acciones al respecto o invocar funciones en base a esa información.
Esta nueva función ofrece nuevas posibilidades y da una mayor flexibilidad a sus usuarios, ya que podremos otorgarle a Claude ciertas tareas en las que podrá utilizar la herramienta que el chatbot crea conveniente para cumplir con el objetivo que se le ha pedido.
La herramienta ya ha podido ser probada por varias personas que han tenido acceso anticipado a ella, y si bien se destaca la compatibilidad de una ventana de contexto de hasta 200K, la precisión disminuye notablemente. Según comenta Greg Kamradt, emprendedor y experto en IA, a partir de los 90K de contexto la precisión se degrada considerablemente.
Como fórmula aproximada, una ventana de contexto de 200K significan casi 470 páginas de documento. Según Kamradt, los hechos del documento que se situaban al comienzo y al final se recordaban y procesaban con una precisión del 100%, mientras que según sus pruebas, Claude obtenía mayor rendimiento con los hechos que se situaban al final del documento que los del principio.
Aunque aún es pronto para sacar conclusiones precipitadas, todo indica a que, aunque la capacidad de Claude es increíblemente extensa, su precisión disminuye considerablemente a partir de determinadas ventanas de contexto. No obstante, supone un gran avance evolutivo en este tipo de tecnologías, pues hasta hace solo unos meses hablábamos en términos de 19 y 32 ventanas de contexto.
Más información | Anthropic
Ver 3 comentarios