Modelos generativos de IA e os desafios éticos dos tempos modernos

Com o avanço da tecnologia e algoritmos de Inteligência Artificial (IA), temos, nos dias atuais, modelos capazes de criar texto, som, imagem e vídeo de alta qualidade. Em breve, isso será feito em tempo real e estará disponível para o público em geral. Com isso, temos também a possibilidade do uso malicioso dessa tecnologia para prejudicar pessoas, ou grupos, com informações inverídicas. Para combater tais práticas, seria necessário aprofundar estudos em mecanismos de defesa (identificação, coibição ou outros). Porém, o desenvolvimento de tecnologias de defesas está geralmente atrasado em relação ao mau uso desses modelos de IA. O que esperar do futuro próximo em termos de violação ética com IA? Golpes com um farsante pretendendo ser um ente querido (com aparência e voz idênticas) em uma chamada de vídeo para pedir o seu dinheiro é apenas um exemplo do potencial destrutivo dessa tecnologia quando usada para o mau. Sendo a IA um tipo de tecnologia disruptiva que pode influenciar e mudar a corrente de pensamentos da sociedade, o incentivo a pesquisa de mecanismos de defesa deveria ser uma prioridade na sociedade. Imagino que empresas especializadas nesse tipo de detecção serão as equivalentes às empresas de antivírus do passado.