Elon Musk

Elon Musk y otros expertos temen que modelos de IA más potentes que GPT-4 puedan crear “efectos catastróficos para la sociedad”.

También la creación de “instituciones bien dotadas de recursos para hacer frente a las drásticas perturbaciones económicas y políticas (especialmente para la democracia) que causará la IA”. Se preguntan si realmente es necesario que estos sustituyan a las personas en diferentes tareas, incluso, tomar “el control de nuestra civilización”. Y donde aseguran, además, que únicamente se deberían crear “una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables”.

Mediante una carta pública, les solicitaron a los laboratorios que tomen la medida durante ese tiempo; qué argumentos presentaron en el escrito - LA NACION.

La preocupante frase del creador de ChatGPT sobre el avance de la inteligencia artificial](/tecnologia/la-preocupante-frase-del-creador-de-chatgpt-sobre-el-avance-de-la-inteligencia-artificial-estamos-nid22032023/) Elon Musk y miles de expertos pidieron una “pausa” en los avances de la Inteligencia Artificial](/tecnologia/elon-musk-y-cientos-de-expertos-piden-una-pausa-en-la-inteligencia-artificial-nid29032023/) [Como las del Papa. La verdad detrás de la curiosa foto del Papa Francisco con la campera de la selección argentina](/tecnologia/la-verdad-detras-de-la-curiosa-foto-del-papa-francisco-con-la-campera-de-la-seleccion-argentina-nid26032023/) [Pioneros inesperados. El detrás de escena de una columna que cubrió los 30 años que cambiaron el mundo](/tecnologia/la-compu-el-detras-de-escena-de-una-columna-que-cubrio-los-30-anos-que-cambiaron-el-mundo-nid25032023/) [Qué muestran las primeras pruebas. El verdadero significado del emoji de la cara sonriente con ojos de estrella](/tecnologia/whatsapp-el-verdadero-significado-del-emoji-de-la-cara-sonriente-con-ojos-de-estrella-nid14032023/) [Como las del Papa. En la misma línea, sostuvieron: “Los sistemas potentes de IA deben desarrollarse solo una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables. “Paralelamente, los desarrolladores de IA deben trabajar con los legisladores para acelerar drásticamente el desarrollo de sistemas sólidos de gobierno de IA. Esto no significa una pausa en el desarrollo de la IA en general, simplemente un paso atrás de la carrera peligrosa hacia modelos de caja negra impredecibles cada vez más grandes, con capacidades emergentes”, argumentaron. [riesgos que puedan provocar en la sociedad y humanidad, puesto que consideran no tiene ni planificación, ni gestión](https://www.lanacion.com.ar/agencias/steve-wozniak-y-elon-musk-respaldan-una-peticion-para-detener-temporalmente-los-grandes-experimentos-nid29032023/). [el sitio Future of life ](https://futureoflife.org/)que se tituló Carta abierta FLI: Pausar los experimentos gigantes de la IA. Desafortunadamente, este nivel de planificación y gestión no está ocurriendo, a pesar de que en los últimos meses los laboratorios de IA entraron en una carrera fuera de control para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de forma fiable”, sumaron. Uno de los nombres destacados que figura en la lista de los que apoyó la medida fue

Líderes tecnológicos de la talla de Steve Wozniak, Jaan Tallinn o Elon Musk se han unido a una petición...

También destacan la necesidad de trabajar de forma conjunta con los legisladores, para avanzar en el desarrollo de sistemas sólidos de gobierno de IA, que además de garantizar un desarrollo seguro de esta tecnología, permita su auditoría y supervisión y el seguimiento de los responsables en caso de fugas o daños, para que puedan responder por ellos. Detrás de esta petición se encuentra la preocupación que suscita el desarrollo de sistemas de IA con inteligencia humana-competitiva, principalmente por los riesgos que pueden suponer para la sociedad y la humanidad, ya que consideran que su desarrollo no se está realizando con planificación ni gestión. Más de 1.100 personas han firmado ya una petición que busca que los laboratorios de IA detengan "de inmediato y durante al menos durante seis meses el entrenamiento de los sistemas de IA más potentes que GPT-4".

Varias personas relacionadas con el sector han firmado una carta para mostrar sus preocupaciones ante el avance repentino que está habiendo con sistemas ...

[de Europol ](https://www.reuters.com/technology/europol-sounds-alarm-about-criminal-use-chatgpt-sees-grim-outlook-2023-03-27/)sobre las posibles aplicaciones delictivas de [ChatGPT](https://www.20minutos.es/tecnologia/minuteca/chatgpt/). [Apúntate a nuestra newsletter y recibe en tu correo las últimas noticias sobre tecnología.](https://www.20minutos.es/estaticos/20bits-newsletter/) Además de pedir que las marcas se tomen unas vacaciones de entrenar a las IAs avanzadas, la carta también establece una gobernanza. [Inteligencia Artificial](https://www.20minutos.es/minuteca/inteligencia-artificial/) está siendo cada vez más rápido y eso ha invitado a varios empresarios tecnológicos a comenzar a preocuparse por ello. Incluso Elon Musk, cofundador de OpenAI, la firma responsable de ChatGPT y DALL-E, ha mostrado en más de una ocasión su miedo ante el auge de este tipo de tecnología. Para formalizar su petición de que así sea, más de 1.100 personas del sector han firmado

A principios de 2022 fue adquirida por SoFi Technologies, también propietaria de Galileo, por US$ 1.100 millones. De ahora en adelante pasarán a ser una ...

¿Debemos arriesgarnos a perder el control de nuestra civilización? "¿Debemos permitir a las máquinas inundar nuestros canales de información con propaganda y mentiras? El dueño de Twitter y fundador de Tesla y SpaceX, Elon Musk, y cientos de expertos mundiales firmaron hoy un llamado para hacer una pausa de seis meses en la investigación sobre inteligencias artificiales (IA) más potentes que ChatGPT 4, el modelo de OpenAI lanzado este mes, al advertir "grandes riesgos para la humanidad".

Los especialistas en tecnología firmaron una carta donde expresan su temor por el avance de la inteligencia artificial y el riesgo que representan para la ...

Reclamaron frenar por seis meses las investigaciones en el sector hasta que haya un marco legal que pueda evitar posibles consecuencias.

Habiendo tenido éxito en la creación de poderosos sistemas de IA, ahora podemos disfrutar de un "verano de IA" en el que cosechamos las recompensas, diseñamos estos sistemas para el claro beneficio de todos y le damos a la sociedad la oportunidad de adaptarse. Paralelamente, los desarrolladores de IA deben trabajar con los legisladores para acelerar drásticamente el desarrollo de sistemas sólidos de gobierno de IA. [respecto a la inteligencia general artificial](https://openai.com/blog/planning-for-agi-and-beyond) establece que "en algún momento, puede ser importante obtener una revisión independiente antes de comenzar a entrenar sistemas futuros, y para los esfuerzos más avanzados para acordar limitar la tasa de crecimiento de la computación utilizada para crear nuevos modelos". [4] Esto no significa una pausa en el desarrollo de la IA en general, simplemente un paso atrás de la carrera peligrosa hacia modelos de caja negra impredecibles cada vez más grandes con capacidades emergentes. La humanidad puede disfrutar de un futuro floreciente con la IA. Ese tipo de advertencias son válidas: una tiene que ver con la pérdida de los trabajos, una preocupación genuina que se menciona en la carta", señala Blanco. “El llamado ‘riesgo existencial’ que surge de la posibilidad de auto-reproducción y autonomización de las inteligencias artificiales no tiene hoy por hoy ningún sustento", advierte Blanco. Estos protocolos deben garantizar que los sistemas que se adhieren a ellos sean seguros más allá de toda duda razonable. Son mediaciones nuevas y hay que aprender a lidiar con ellas: es lo que pasó con Los sistemas potentes de IA deben desarrollarse solo una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables. Lo dijo en relación a los usos que pueda tener para "desinformación a gran escala o ciberataques"." “ChatGPT es un ejemplo de programa capaz de sostener diálogos diversos en lenguaje natural.

Pausar inmediatamente y durante al menos seis meses el entrenamiento de sistemas de IA más potentes que GPT-4. Esa es la idea detrás de una carta firmada ...

[más potentes que GPT-4](https://www.xataka.com.mx/robotica-e-ia/chatgpt-evoluciona-gpt-4-usa-texto-e-imagenes-para-crear-contenido-esta-bing-microsoft). Esa es la idea detrás de [una carta firmada](https://futureoflife.org/open-letter/pause-giant-ai-experiments/) por más de 1,000 personalidades del mundo tecnológico, entre las que se encuentran [Elon Musk](https://www.xataka.com.mx/robotica-e-ia/elon-musk-tiene-algo-que-decir-chatgpt-ia-uno-grandes-riesgos-para-humanidad), Steve Wozniak, el cofundador de Apple, así como Jaan Tallinn, cofundador de Skype, y hasta el CEO de [Getty Images](https://www.xataka.com.mx/robotica-e-ia/getty-images-demanda-a-creadores-stable-diffusion-acude-robar-su-contenido-para-entrenar-a-su-ia), Craig Peters. Para lograrlo en la carta se establecen una serie de procesos: hacer más fiables y seguros los sistemas de IA, el desarrollo de nuevos protocolos de seguridad, lo que también lleva a la creación de determinados estándares generales para el uso de los modelos. [se gestione de forma adecuada](https://www.xataka.com.mx/robotica-e-ia/bing-chatgpt-cerca-locura-dice-que-espia-a-trabajadores-microsoft-sus-webcams-agresivo-algunos-usuarios), pues advierten que ni siquiera los creadores de los sistemas son capaces de entender o predecir de forma fiable la manera en que se comportan. [con propaganda y falsedades](https://www.xataka.com.mx/robotica-e-ia/chatgpt-como-aliado-terraplanistas-ia-puede-crear-textos-convincentes-a-favor-teorias-conspiracion-investigadores)" o si es correcto automatizar los trabajos y continuar con el desarrollo de "mentes no humanas" que con el tiempo nos puedan superar en número, inteligencia, obsolescencia, terminando por reemplazarnos. [El documento](https://futureoflife.org/open-letter/pause-giant-ai-experiments/) cuestiona el rápido avance de los sistemas que utilizan inteligencia artificial y buscan poner un alto al desarrollo de tecnologías con capacidades [superiores a las de GPT-4](https://www.xataka.com.mx/robotica-e-ia/asi-impresionante-gpt-4-te-explica-memes-programa-paginas-web-solo-mostrarle-texto-a-mano), presentado recientemente.

Líderes tecnológicos de la talla de Steve Wozniak, Jaan Tallinn o Elon Musk se han unido a una petición que busca paralizar temporalmente los grandes ...

Líderes tecnológicos de la talla de Steve Wozniak, Jaan Tallinn o Elon Musk se han unido a una petición que busca paralizar temporalmente los grandes experimentos con inteligencia artificial (IA) por los riesgos que pueden entrañar para la sociedad. [con inteligencia humana-competitiva](https://www.eleconomista.com.mx/capitalhumano/Chat-GPT-no-le-quitara-el-empleo-a-60-puestos-20230328-0034.html), principalmente por los riesgos que pueden suponer para la sociedad y la humanidad, ya que consideran que su desarrollo no se está realizando con planificación ni gestión. Más de 1,100 personas han firmado ya una petición que busca que los laboratorios de IA detengan "de inmediato y durante al menos durante seis meses el entrenamiento de los sistemas de IA