Empresas buscan detectar creaciones de Inteligencia Artificial

El año pasado, la preocupación de Andrey Doronichev se intensificó al ver un video en las redes sociales que aparentemente mostraba al presidente de Ucrania rindiéndose ante Rusia. Aunque se demostró que el video era falso y generado con inteligencia artificial, este incidente sirvió como un inquietante presagio. En la actualidad, los temores de Doronichev se están volviendo más reales a medida que aumenta la competencia entre las empresas para mejorar y lanzar tecnologías de inteligencia artificial, a pesar de los posibles caos que podrían provocar.

La capacidad de la inteligencia artificial generativa para engañar a las personas con textos, audios y videos que parecen ser creados y capturados por humanos está al alcance de cualquiera. Esto ha despertado preocupaciones sobre la desinformación, la pérdida de empleos, la discriminación, la privacidad y una distopía en general, pero también ha brindado oportunidades de negocio para emprendedores como Doronichev.

En respuesta a esta creciente amenaza, varias compañías están ofreciendo herramientas para detectar contenido generado por inteligencia artificial. Entre ellas se encuentran Sensity AI, que se especializa en la detección de videos ultrafalsos, Fictitious.AI, que se enfoca en detectar plagio, y Originality.AI, que también ofrece servicios de detección de plagio.

Doronichev, fundador de Optic, una empresa con sede en San Francisco, ha desarrollado un sitio web donde los usuarios pueden verificar si las imágenes fueron creadas por fotógrafos reales o por sistemas de inteligencia artificial. Además, está trabajando en el desarrollo de otros servicios para verificar la autenticidad de videos y audios.

“Optic hit the right notes – mid-Ukraine war, post-NFT boom, and pre-DALL-E and ChatGPT hypnosis.” — thanks, @AmandaSWriter and @DecentialMedia https://t.co/2wQG2cOXFU

— optic (@Optic_xyz) May 23, 2023

El mercado de la inteligencia artificial generativa se espera que supere los 109.000 millones de dólares para 2030, con un crecimiento anual promedio del 35,6 por ciento, según Grand View Research. En este contexto, las empresas enfocadas en la detección de esta tecnología están experimentando un crecimiento significativo.

Es importante destacar que las herramientas de detección siempre están un paso atrás de la tecnología generativa que intentan detectar. Sin embargo, tanto empresas tecnológicas importantes como startups están invirtiendo en soluciones de detección. Por ejemplo, el sistema FakeCatcher de Intel afirma tener una precisión del 96 por ciento en la detección de videos ultrafalsos mediante el análisis de píxeles en busca de sutiles señales de circulación sanguínea en los rostros humanos.

Aunque las herramientas de detección se están mejorando constantemente, todavía existen desafíos, especialmente con textos breves y aquellos que no están escritos en inglés. Sin embargo, a medida que la demanda de detección de IA aumenta en las escuelas y en otros sectores, se espera un desarrollo continuo en esta área.

En resumen, el crecimiento de la inteligencia artificial generativa plantea desafíos significativos, pero también ofrece oportunidades en el campo de la detección de contenido sintético. A medida que la tecnología

great coverage of the new AI-generated images detection tool by @Optic_xyz in @NYT https://t.co/5eY56FUHk8
Proud to be an early investor

— Nick Davidov (@Nick_Davidov) May 18, 2023

Con información de: Yahoo