A fundadora e CEO da Defined.ai, empresa que se distingue pela ética dos dados usados para treinar modelos de Inteligência Artificial, foi uma das oradoras convidadas para estar na primeira edição de sempre da HumanX, em Las Vegas. A conferência criada por Stefan Weitz focou-se na criação de sistemas IA transparentes e robustos, com as salvaguardas devidas, que possam escalar mantendo a confiança dos mercados e das pessoas. Falámos com Daniela Braga no hotel Fontainebleau, onde decorreu a conferência, sobre os temas em que foi chamada a participar: um ‘fireside chat’ sobre ética e IA, tema em que se centra a sua missão de conselheira da Casa Branca à União Europeia e World Economic Forum; e uma mesa redonda sobre os limites da criatividade.
Por que foi importante estar na primeira edição da HumanX?
Nós estamos sempre nestas conferências. Na Inteligência Artificial eu construí uma empresa completamente diferente na área de dados, de fontes de dados fechadas e dados éticos. Não estar aqui seria realmente estranho.
Quais são os limites da criatividade em IA no formato atual?
Todos os sistemas de Inteligência Artificial estão a ser construídos baseados nos mesmos dados, que são ‘scraped’ [raspados] da web. Os resultados e os comportamentos destes sistemas são basicamente os mesmos. Eu ando a falar em redundância, até nas Nações Unidas, há muito tempo. Toda a gente está a construir sistemas redundantes, baseados nos mesmos dados, que têm preconceitos, que têm violações de copyright, que não são de fontes verificadas e são todos avaliados nos mesmos benchmarks. Basicamente, todos os sistemas, biliões de investimentos, respondem mais ou menos da mesma forma.
Ou seja, corremos o risco de, daqui a uns anos, estarmos todos a pensar da mesma forma ou a receber o mesmo tipo de respostas?
Por um lado, toda a gente está a usar a mesma metodologia, os mesmos dados não sempre obtidos legalmente, testados da mesma maneira. Portanto, há uma falta de criatividade no desenvolvimento destes sistemas. É a primeira coisa que eu tenho a dizer. A segunda questão é mais filosófica. Por que razão estamos a fazer tantos investimentos deste nível de escala em sistemas que se comportam exatamente da mesma forma? Não seria mais interessante construir modelos mais pequenos, mas mais focados em resolver problemas que realmente diferenciam a Humanidade?