Sam Altman, CEO de OpenAI, está adoptando la estrategia de "muévete rápido y rompe cosas" que popularizó Mark Zuckerberg en los inicios de Facebook. En realidad lleva años haciéndolo y hasta queda constatado por sus propios tuits del pasado, pero en estas últimas semanas se ha hecho especialmente evidente.
Qué ocurre. Por un lado, se ha disculpado por varias decisiones de estos últimos meses, como el uso no autorizado de una voz intencionalmente similar a la de Scarlett Johansson o las cláusulas abusivas en los contratos de sus empleados que dijo desconocer (las firmó él). Por otro lado, sigue acelerando con el desarrollo de GPT-5, su próximo LLM.
Es un enfoque que premia la velocidad sobre la cautela, pero que con la IA entraña riesgos potenciales.
Por qué es importante. La IA tiene un potencial transformador, pero también destructivo. No hace falta ser catastrofista, pero tampoco es saludable obviar riesgos. Como ocurría con las redes sociales hace quince años, pero a un nivel mucho más peligroso a largo plazo.
Repetir la estrategia que llevó a Facebook a conectar el mundo a costa de polarizarlo y desinformarlo puede tener consecuencias nefastas si se aplica al desarrollo de la IA. Como dijo Axios: la industria sigue premiando a quien pide perdón en lugar de permiso.
La filosofía de Altman. En 2021 tuiteó "Muévete más rápido. La lentitud en cualquier parte justifica la lentitud en todas partes". Otro aforismo firmado por él fue "El ímpetu lo es todo en una startup. Las que ganan siguen ganando, las que pierden siguen perdiendo".
- Lo de ponerse al frente del comité de seguridad de OpenAI es el equivalente en IA a poner al zorro a cuidar del gallinero, dicho desde el cariño.
- Ambos CEOs comparten tanto optimismo por el potencial positivo de sus empresas como ingenuidad deliberada sobre sus externalidades.
Maniobrando al estilo Zuckerberg. Mark lleva disculpándose por los errores e imprecisiones de Facebook / Meta desde sus inicios. pero nunca ha frenado sus planes. Lo hizo con el feed de noticias, las configuraciones de privacidad, las fake news, el escándalo de Cambridge Analytica, los abusos a menores...
Facebook e Instagram siempre continuaron creciendo en usuarios, engagement y beneficios. Altman esta repitiendo el patrón: se disculpa por las polémicas mientras presenta nuevas demos, anuncia el desarrollo de GPT-5 y liquida el equipo que controla la seguridad de ese desarrollo.
Los riesgos de las prisas. Desde las alucinaciones a las que ya nos hemos acostumbrado hasta algunas primeras versiones grotescas. El inicio de la IA de Bing basada en GPT también fue un sainete.
La carrera de la IA generativa, en especial entre Microsoft, OpenAI y Google, nos está dejando productos que buscan impactar y cuyos riesgos e imprecisiones ya iremos descubriendo sobre la marcha. Todo en aras de adelantarse.
Lecciones no aprendidas. Zuckerberg dio por muerto su viejo mantra tras el escándalo de Cambridge Analytica, pero ese mantra, aunque ahora las tecnológicas sean tan grandes que se han hecho mastodónticas y mas cautelosas, sigue vivo en la industria.
El gran problema: la disrupción de la IA puede tener un alcance mucho mayor y más dañino que lo visto con las redes sociales en estos tres últimos lustros. Este enfoque puede dar a OpenAI una ventaja competitiva, pero entraña el riesgo de repetir o agraviar los grandes errores de la era dorada de las redes sociales.
En Xataka | OpenAI tiene claro cómo lograr que ChatGPT Plus triunfe: usando ChatGPT como anzuelo
Imagen destacada | Xataka con Midjourney
Ver 8 comentarios
8 comentarios
picapeixe
No hay problema en romper cosas para progresar, pero rómpelas dentro de tu casa y de tus laboratorios, cuando todo esté listo entonces lo enseñas.
No saques a la luz algo tan potencialmente disruptivo como la IA sabiendo que es una beta que funciona mal, y que tiene el potencial de arrasar con un montón de cosas, de alucinar, de proporcionar información falsa que la gente toma como verdadera, etc...
Sporty
Haz mucho...hazlo rápido...y a la siguiente cosa
Usuario desactivado
La gran "disrupción" de la IA generativa basada en LLM vendrá cuando se pinche esa burbuja.
En algún momento se empezará a notar que estos loros estocásticos solo alucinan y estos gurús se clasificarán junto con los olvidados gurús de la burbuja "puntocom".
jean30
Es complicado saber dónde acabará todo, que acabará mal seguro por eso comparto la opinión de este artículo. Además la historia justamente está para evitar los errores del pasado pero aunque el señor Reptilian Zuckervergas haya dejado su imagen se ve que nosotros los que amamos la tecnología, la gran mayoría, no estamos viendo el gran peligro que puede traer el señor Altman y las personas en Silicon Valley que comparten su visión de traer todo lo más rápido posible sin pensar en las consecuencias, parece que tuvieran prisa por llegar a algo...
aprepalemesoceno
Buen artículo, comparto el mensaje.
VolcoV
Hay que admitir que en la actualidad o creces a toda hostia cuando innovas o te matan los gobiernos.
Han sido numerosas veces las que Europa estuvo a punto de poner en vigor legislaciones que hubiesen restringido muchos de los usos de la IA en la actualidad. Estas legislaciones no surgieron porque los ciudadanos europeos dieron nuevos usos a la IA.
En otras palabras, innovar a toda velocidad te garantiza ser más exitoso y también ser más útil a la sociedad. Esto nos recuerda que a veces organismos gubernamentales tienen demasiado poder y actúan irresponsablemente movidos por el miedo y dinero sin estudiar bien la situación.