Fundada por antiguos responsables de OpenAI y fuertemente apoyada por Amazon, Anthropic ha desarrollado la IA llamada Claude. Esta busca diferenciarse de ChatGPT o Gemini en aspectos donde no necesariamente se esperaba.
A partir de 2015, numerosas figuras del ámbito tecnológico, incluyendo a Elon Musk y Bill Gates, comenzaron a expresar sus preocupaciones respecto a la inteligencia artificial. Una vez que se introduce en sectores como la salud, el militar o la vigilancia, un error podría conllevar consecuencias negativas.e
Los Amodei
Durante el año 2019, tres años antes del lanzamiento de ChatGPT, esta preocupación afecta a dos vicepresidentes de OpenAI: Dario y Daniela Amodei (hermano y hermana).
Desde 2016, Dario Amodei ha manifestado sus inquietudes en un artículo publicado en colaboración con investigadores de Google: «Concrete Problems in AI Safety», alertando sobre la imprevisibilidad de los modelos de IA que operan a gran escala.
OpenAI había sido fundada originalmente como una organización sin ánimo de lucro con la misión de «construir una IA general segura y compartir los beneficios con el mundo». Sin embargo, en 2019, recibe una gran inversión de 1.000 millones de dólares por parte de Microsoft. Desde entonces, OpenAI se interesa por la perspectiva de generar beneficios para sus inversores. Los peligros potenciales de la IA ya no parecen ser una preocupación importante para los líderes. La situación genera varias tensiones internas. Como ha testificado Dario Amodei:
«Éramos todo un grupo dentro de OpenAI que, después de haber creado GPT-2 y GPT-3, creía firmemente en ciertas ideas. La primera era que, si se dedicaba más potencia de cálculo a estos modelos, casi no habría límite. La segunda era que, más allá de perfeccionar los modelos, era necesario considerar su alineación ética y las cuestiones de seguridad».
Fundación de Anthropic
Estas cuestiones relacionadas con el papel civilizacional de la IA llevan a Dario Amodei a abandonar OpenAI en diciembre de 2020. En las semanas posteriores, otros 14 investigadores lo siguen, entre ellos su hermana Daniela.
La fundación de Anthropic se lanza en enero de 2021. Proclama su ambición de «desarrollar una IA superpoderosa pero segura para el futuro de la humanidad».
IA constitucional
El intento de Anthropic de integrar principios éticos en la IA y reducir los elementos imprevisibles, no fiables y opacos, se sintetiza bajo un nombre: IA constitucional. Integra 10 principios rectores que garantizan que sus respuestas sean precisas, éticas y beneficiosas para los usuarios y debe mejorar con el tiempo, respetando diversos principios establecidos por los humanos.
Financiaciones tempranas
Para desarrollar un modelo de IA, se necesitan fondos. Anthropic rápidamente recibe financiación. La primera – 124 millones de dólares – es aportada por el millonario estonio Jaan Tallinn, cofundador de Skype. En octubre de 2021, es el turno de Sam Bankman-Fried, fundador de la plataforma de criptomonedas FTX, quien aporta 500 millones de dólares a Anthropic – se sabe que FTX va a colapsar un año más tarde. Hacia finales del año, PitchBook, una plataforma que rastrea la recolección de datos de inversión privada, recauda 704 millones de dólares.
Nacimiento de Claude
Hay que esperar al verano de 2022 para que Anthropic desvele la primera versión de su IA generativa: Claude. Los Amodei deciden no publicarla, citando la necesidad de pruebas de seguridad adicionales. Es así como ChatGPT de OpenAI va a mostrar al mundo los potenciales de la inteligencia artificial.
A finales de 2022, 300 millones de dólares son invertidos por Google, consiguiendo así una participación del 10% en la startup. Esta inversión favorece el acceso a recursos informáticos a gran escala.
Hay que esperar hasta marzo de 2023 para que Anthropic introduzca la primera versión de Claude. Para diferenciarse de ChatGPT, los Amodei afirman que su chatbot se niega a generar contenido perjudicial o sesgado y proporciona fuentes para respaldar sus respuestas.
En julio de 2023, una nueva versión, Claude 2, sorprende por su creatividad y capacidad para el humor. Durante ese mismo mes, Dario Amodei testifica ante el Senado de Estados Unidos, explicando que IAs descontroladas podrían ayudar a crear armas de destrucción masiva.
El evento principal ocurre en septiembre cuando Amazon invierte 1,25 mil millones de dólares en Anthropic y se compromete a aumentar la aportación hasta 4 mil millones de dólares.
El trabajo de los Amodei es elogiado por Time 100, que los nombra entre las personas más influyentes del mundo en 2023.
Una fuerte valoración
El año 2024 ha comenzado con fuerza. En febrero, la firma de capital de riesgo Menlo Ventures acuerda invertir 750 millones de dólares en Anthropic, llevando su valoración a 18,4 mil millones de dólares. Luego, en junio del mismo año, Anthropic lanza la familia Claude 3 – Opus, Sonnet y Haiku. Esta vez, este modelo es aclamado como uno de los mejores del mercado.
Un hecho novedoso, Anthropic y también OpenAI, han aceptado someter sus nuevos modelos al gobierno estadounidense para abordar las crecientes preocupaciones sobre la seguridad y la ética de la IA. De hecho, el Instituto Nacional de Estándares y Tecnología (NIST, por sus siglas en inglés), ha anunciado que ahora «tendrá acceso a los nuevos modelos principales de cada empresa antes y después de su disponibilidad pública».
Al poner así el énfasis en la seguridad y la ética de la IA, Anthropic ha iniciado un movimiento importante en la historia de esta tecnología.
