La compañía de inteligencia artificial de Elon Musk ha restringido la controvertida función de generación de imágenes de inteligencia artificial de Grok solo a suscriptores de pago en X, luego de que la herramienta generara fuertes críticas de todo el mundo por permitir a los usuarios generar imágenes sexualizadas y desnudas de mujeres y niños.
En respuestas a los usuarios el viernes, Grok dijo que sólo los suscriptores de pago en X podrían generar y editar imágenes en la plataforma. En particular, estos límites no se aplican a la aplicación Grok, que, en el momento de la publicación, permitía a cualquiera generar imágenes sin tener que pagar una suscripción.
Inicialmente disponible para cualquier persona con límites diarios, la función de generación de imágenes de Grok permitía a los usuarios cargar la imagen de cualquier persona y pedirle que la editara o generara una versión sexualizada o desnuda. Lo que siguió fue una verdadera inundación de imágenes sexualizadas no consensuadas de niños, actores, modelos y personajes destacados, provocando la ira de múltiples naciones.
X y Musk denunciaron públicamente el uso de la herramienta para producir tales imágenes y escribieron que la compañía cumpliría con sus políticas contra la publicación de contenido ilegal en la plataforma de redes sociales. «Cualquiera que utilice grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal», Musk tuiteó la semana pasada.
El Reino Unido, la Unión Europea y la India han denunciado públicamente a X y Grok por permitir dicho uso de sus capacidades. La UE pidió el jueves a xAI que retener toda la documentación relacionada con el chatbot y el Ministerio de Comunicaciones de la India la semana pasada. ordenado X realizar cambios inmediatos para evitar que las funciones de generación de imágenes se utilicen indebidamente o poner en riesgo sus protecciones de puerto seguro en el país. El organismo de control de las comunicaciones del Reino Unido dicho También ha estado en contacto con xAI sobre el tema.
La empresa de inteligencia artificial fundada por Elon Musk, X, ha decidido restringir el acceso a la función de generación de imágenes de su herramienta Grok a los suscriptores de pago en su plataforma X. Esta decisión surge después de que la herramienta generara una gran controversia a nivel mundial por permitir a los usuarios crear imágenes sexualizadas y desnudas de mujeres y niños sin su consentimiento.
La función de generación de imágenes de Grok, que inicialmente estaba disponible para cualquier persona con límites diarios, permitía a los usuarios cargar una imagen de cualquier persona y solicitar que se editara o generara una versión sexualizada o desnuda. Esto llevó a una gran cantidad de imágenes no consensuadas de niños, actores, modelos y personajes destacados, lo que provocó la ira de múltiples naciones.
Ante esta situación, X y Elon Musk denunciaron públicamente el uso de la herramienta para producir contenido ilegal y manifestaron que la empresa cumpliría con sus políticas contra la publicación de contenido ilegal en la plataforma de redes sociales. Musk incluso tuiteó que «cualquiera que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal».
La respuesta de los gobiernos y organismos reguladores no se hizo esperar. El Reino Unido, la Unión Europea y la India han denunciado públicamente a X y Grok por permitir el uso de sus capacidades para crear contenido ilegal. La Unión Europea pidió a X que retuviera toda la documentación relacionada con el chatbot, mientras que el Ministerio de Comunicaciones de la India ordenó a X que realizara cambios inmediatos para evitar que las funciones de generación de imágenes se utilicen indebidamente o pusieran en riesgo sus protecciones de puerto seguro en el país. El organismo de control de las comunicaciones del Reino Unido también ha estado en contacto con X sobre el tema.
La restricción del acceso a la función de generación de imágenes de Grok a los suscriptores de pago en X es un paso para tratar de controlar el uso indebido de la herramienta. Sin embargo, es importante destacar que esta medida no resuelve completamente el problema, ya que la aplicación Grok sigue permitiendo a cualquiera generar imágenes sin tener que pagar una suscripción.
La controversia generada por Grok ha puesto de relieve la necesidad de regulación y control en el uso de la inteligencia artificial y las herramientas de generación de imágenes. Es fundamental que las empresas que desarrollan estas tecnologías tomen medidas efectivas para prevenir el uso indebido y proteger a las personas y comunidades que pueden ser afectadas por su uso.
En este sentido, es importante que los gobiernos y organismos reguladores sigan trabajando juntos para establecer normas y regulaciones claras para el uso de la inteligencia artificial y las herramientas de generación de imágenes. También es fundamental que las empresas que desarrollan estas tecnologías sean transparentes y responsables en su uso y tomen medidas efectivas para prevenir el uso indebido.
En resumen, la restricción del acceso a la función de generación de imágenes de Grok a los suscriptores de pago en X es un paso en la dirección correcta, pero es importante que se sigan trabajando para encontrar soluciones más efectivas y duraderas para prevenir el uso indebido de estas tecnologías. La protección de las personas y comunidades es fundamental, y es importante que se priorice su seguridad y bienestar en el desarrollo y uso de la inteligencia artificial y las herramientas de generación de imágenes.