Superinteligencia: Cómo la IA redefinirá el futuro de la humanidad (Reflexiones de Sam Altman)
El segundo aniversario de ChatGPT fue hace poco más de un mes, y ahora hemos pasado al siguiente paradigma de modelos que pueden realizar razonamientos complejos. Los primeros días del año ponen a las personas en un estado reflexivo, y quería compartir algunos pensamientos personales sobre cómo ha ido todo hasta ahora y algunas de las cosas que he aprendido en el camino.
A medida que nos acercamos a la AGI, siento que es un momento importante para observar el progreso de nuestra empresa. Todavía hay mucho por entender, aún hay mucho que no sabemos y todavía es muy temprano. Pero sabemos mucho más de lo que sabíamos cuando comenzamos.
Comenzamos OpenAI hace casi nueve años porque creíamos que la AGI era posible y que podría ser la tecnología más impactante en la historia de la humanidad. Queríamos descubrir cómo construirla y hacerla ampliamente beneficiosa; estábamos emocionados de intentar dejar nuestra huella en la historia. Nuestras ambiciones eran extraordinariamente altas y también lo era nuestra creencia de que el trabajo podría beneficiar a la sociedad de una manera igualmente extraordinaria.
En ese momento, muy pocas personas se interesaban, y si lo hacían, era principalmente porque pensaban que no teníamos posibilidades de éxito.
En 2022, OpenAI era un laboratorio de investigación silencioso trabajando en algo temporalmente llamado “Chat With GPT-3.5”. (Somos mucho mejores en investigación que en nombrar cosas). Habíamos estado observando a las personas usar la función de playground de nuestra API y sabíamos que a los desarrolladores les encantaba conversar con el modelo. Pensamos que construir una demostración en torno a esa experiencia mostraría a las personas algo importante sobre el futuro y nos ayudaría a mejorar y hacer más seguros nuestros modelos.
Terminaron llamándolo misericordiosamente ChatGPT en su lugar y lo lanzamos el 30 de noviembre de 2022.
Siempre supimos, de manera abstracta, que en algún momento alcanzaríamos un punto de inflexión y se desencadenaría la revolución de la IA. Pero no sabíamos cuál sería el momento. Para nuestra sorpresa, resultó ser este.
El lanzamiento de ChatGPT inició una curva de crecimiento como nunca habíamos visto, en nuestra empresa, en nuestra industria y en el mundo en general. Finalmente estamos viendo algunos de los enormes beneficios que siempre hemos esperado de la IA, y podemos ver cuánto más vendrá pronto.
No ha sido fácil. El camino no ha sido suave y las decisiones correctas no han sido obvias.
En los últimos dos años, tuvimos que construir una empresa entera, casi desde cero, alrededor de esta nueva tecnología. No hay forma de capacitar a las personas para esto excepto haciéndolo, y cuando la categoría tecnológica es completamente nueva, no hay nadie que pueda decirte exactamente cómo debe hacerse.
Construir una empresa a una velocidad tan alta con tan poca capacitación es un proceso desordenado. A menudo es dos pasos adelante, uno atrás (y a veces, un paso adelante y dos atrás). Los errores se corrigen sobre la marcha, pero realmente no hay manuales o puntos de referencia cuando estás haciendo un trabajo original. Moverse rápido en aguas desconocidas es una experiencia increíble, pero también es inmensamente estresante para todos los involucrados. Abundan los conflictos y los malentendidos.
Estos años han sido los más gratificantes, divertidos, mejores, interesantes, agotadores, estresantes y—particularmente en los últimos dos—años desagradables de mi vida hasta ahora. El sentimiento abrumador es de gratitud; sé que algún día me jubilaré en nuestro rancho viendo crecer las plantas, un poco aburrido, y recordaré lo genial que fue poder hacer el trabajo con el que soñé desde que era un niño pequeño. Trato de recordarlo cualquier viernes, cuando siete cosas salen mal antes de la 1 pm.
Hace un poco más de un año, en un viernes en particular, lo principal que salió mal ese día fue que me despidieron por sorpresa en una videollamada, y justo después de colgar, la junta publicó una entrada en el blog al respecto. Estaba en una habitación de hotel en Las Vegas. Se sintió, en un grado casi imposible de explicar, como un sueño que salió mal.
Ser despedido en público sin previo aviso desencadenó unas horas realmente locas y unos días bastante locos. La “niebla de guerra” fue la parte más extraña. Ninguno de nosotros pudo obtener respuestas satisfactorias sobre lo que había sucedido o por qué.
Todo el evento fue, en mi opinión, un gran fracaso de gobernanza por parte de personas bien intencionadas, incluyéndome a mí. Mirando hacia atrás, ciertamente desearía haber hecho las cosas de manera diferente, y me gustaría creer que hoy soy un líder mejor y más reflexivo de lo que era hace un año.
También aprendí la importancia de una junta con puntos de vista diversos y amplia experiencia en la gestión de un conjunto complejo de desafíos. Una buena gobernanza requiere mucha confianza y credibilidad. Aprecio la forma en que tantas personas trabajaron juntas para construir un sistema de gobernanza más fuerte para OpenAI que nos permite perseguir nuestra misión de asegurar que la AGI beneficie a toda la humanidad.
Mi mayor aprendizaje es cuánto tengo que agradecer y a cuántas personas les debo gratitud: a todos los que trabajan en OpenAI y han elegido dedicar su tiempo y esfuerzo a perseguir este sueño, a los amigos que nos ayudaron a superar los momentos de crisis, a nuestros socios y clientes que nos apoyaron y confiaron en nosotros para facilitar su éxito, y a las personas en mi vida que me demostraron cuánto se preocupan. [1]
Todos volvimos al trabajo de una manera más cohesionada y positiva y estoy muy orgulloso de nuestro enfoque desde entonces. Hemos hecho lo que fácilmente puede ser una de nuestras mejores investigaciones hasta ahora. Crecimos de alrededor de 100 millones de usuarios activos semanales a más de 300 millones. Sobre todo, hemos continuado poniendo tecnología en el mundo que la gente realmente parece amar y que resuelve problemas reales.
Hace nueve años, realmente no teníamos idea de en qué íbamos a convertirnos eventualmente; incluso ahora, solo lo sabemos de pasada. El desarrollo de la IA ha tomado muchos giros y vueltas y esperamos más en el futuro.
Algunos de los giros han sido alegres; otros han sido difíciles. Ha sido divertido ver una corriente constante de milagros de investigación ocurrir, y muchos escépticos se han convertido en verdaderos creyentes. También hemos visto a algunos colegas separarse y convertirse en competidores. Los equipos tienden a cambiar a medida que escalan, y OpenAI escala muy rápido. Creo que parte de esto es inevitable: las startups suelen ver mucha rotación en cada nuevo nivel importante de escala, y en OpenAI los números aumentan por órdenes de magnitud cada pocos meses. Los últimos dos años han sido como una década en una empresa normal. Cuando cualquier empresa crece y evoluciona tan rápido, los intereses naturalmente divergen. Y cuando cualquier empresa en una industria importante está a la cabeza, muchas personas la atacan por todo tipo de razones, especialmente cuando intentan competir con ella.
Nuestra visión no cambiará; nuestras tácticas continuarán evolucionando. Por ejemplo, cuando comenzamos, no teníamos idea de que tendríamos que construir una empresa de productos; pensábamos que solo íbamos a hacer una gran investigación. Tampoco teníamos idea de que necesitaríamos una cantidad tan loca de capital. Hay cosas nuevas que tenemos que construir ahora que no entendíamos hace unos años, y habrá cosas nuevas en el futuro que apenas podemos imaginar ahora.
Estamos orgullosos de nuestro historial en investigación y despliegue hasta ahora, y estamos comprometidos a continuar avanzando en nuestro pensamiento sobre la seguridad y el reparto de beneficios. Seguimos creyendo que la mejor manera de hacer que un sistema de IA sea seguro es lanzándolo de manera iterativa y gradual al mundo, dando tiempo a la sociedad para adaptarse y coevolucionar con la tecnología, aprendiendo de la experiencia y continuando haciendo la tecnología más segura. Creemos en la importancia de ser líderes mundiales en investigación de seguridad y alineación, y en guiar esa investigación con retroalimentación de aplicaciones del mundo real.
Ahora confiamos en que sabemos cómo construir la AGI tal como la hemos entendido tradicionalmente. Creemos que, en 2025, podríamos ver a los primeros agentes de IA “unirse a la fuerza laboral” y cambiar materialmente la producción de las empresas. Continuamos creyendo que poner iterativamente grandes herramientas en manos de las personas conduce a grandes resultados ampliamente distribuidos.
Estamos comenzando a dirigir nuestra meta más allá de eso, hacia la superinteligencia en el verdadero sentido de la palabra. Amamos nuestros productos actuales, pero estamos aquí para el glorioso futuro. Con la superinteligencia, podemos hacer cualquier otra cosa. Las herramientas superinteligentes podrían acelerar masivamente el descubrimiento científico y la innovación mucho más allá de lo que somos capaces de hacer por nuestra cuenta, y a su vez aumentar masivamente la abundancia y la prosperidad.
Esto suena como ciencia ficción en este momento y algo loco para siquiera hablar de ello. Está bien, hemos estado allí antes y estamos bien con volver a estar allí. Estamos bastante seguros de que en los próximos años, todos verán lo que nosotros vemos, y que la necesidad de actuar con gran cuidado, mientras aún maximizamos el beneficio y empoderamiento amplios, es muy importante. Dadas las posibilidades de nuestro trabajo, OpenAI no puede ser una empresa normal.
Qué afortunado y humilde es poder jugar un papel en este trabajo.
(Gracias a Josh Tyrangiel por de alguna manera impulsar esto. Ojalá hubiéramos tenido mucho más tiempo.)
[1]
Hubo muchas personas que hicieron cantidades increíbles y gigantescas de trabajo para ayudar a OpenAI y a mí personalmente durante esos pocos días, pero dos personas se destacaron sobre todas las demás.
Ron Conway y Brian Chesky fueron más allá del deber hasta el punto de que ni siquiera estoy seguro de cómo describirlo. Por supuesto, he escuchado historias sobre la habilidad y tenacidad de Ron durante años y he pasado mucho tiempo con Brian en los últimos un par de años recibiendo una enorme cantidad de ayuda y consejos.
Pero no hay nada como estar en la trinchera con las personas para ver de verdad lo que pueden hacer. Estoy razonablemente seguro de que OpenAI se habría desmoronado sin su ayuda; trabajaron día y noche durante días hasta que todo se resolvió.
Aunque trabajaron increíblemente duro, se mantuvieron calmados y tuvieron un pensamiento estratégico claro y excelentes consejos durante todo el proceso. Me evitaron cometer varios errores y no cometieron ninguno ellos mismos. Usaron sus vastas redes para todo lo necesario y pudieron navegar muchas situaciones complejas. Y estoy seguro de que hicieron muchas cosas que no sé.
Lo que más recordaré, sin embargo, es su cuidado, compasión y apoyo.
Pensé que sabía cómo se veía apoyar a un fundador y a una empresa, y en cierto sentido lo sabía. Pero nunca antes había visto, ni siquiera escuchado, algo como lo que estos chicos hicieron, y ahora entiendo más completamente por qué tienen el estatus legendario que tienen. Son diferentes y ambos merecen plenamente sus reputaciones genuinamente únicas, pero son similares en su notable capacidad para mover montañas y ayudar, y en su compromiso inquebrantable en tiempos de necesidad. La industria tecnológica está mucho mejor por tener a ambos en ella.
Hay otros como ellos; es algo increíblemente especial sobre nuestra industria y hace mucho más para que todo funcione de lo que la gente se da cuenta. Espero poder retribuirlo.
En una nota más personal, gracias especialmente a Ollie por su apoyo ese fin de semana y siempre; es increíble en todos los aspectos y nadie podría pedir un mejor compañero.
Fuente: Sam Altman, Reflexiones, https://blog.samaltman.com/
No hay comentarios.