O professor que foi considerado 'louco e alarmista' e vem acertando previsões sobre inteligência artificial

'O capitalismo não vai resolver esses problemas'

A experiência de Marcus, de 53 anos, não é restrita ao mundo acadêmico. Ele vendeu uma empresa para o Uber e se tornou diretor de um laboratório de IA da gigante dos apps de transporte — deixou o cargo depois de apenas quatro meses, num período em que a companhia enfrentava acusações de manter um ambiente "tóxico".

Questionado se o famoso mantra "mova-se rápido e quebre coisas" do Vale do Silício e a competição desenfreada por mercados justamente não cria circunstâncias perigosas para o desenvolvimento da inteligência artificial, ele diz que "não dá para esperar que o capitalismo, por si só, vá resolver esses problemas".

Ele defende que as empresas sejam objeto de regulamentação e cita o mercado de aviação como um exemplo de que é algo necessário.

"O setor aéreo na década de 1950 era um desastre. Os aviões caíam o tempo todo. A regulamentação foi boa para o setor aéreo, conseguiu que a indústria aérea desenvolvesse um produto melhor no final das contas", afirma.

"Deixar as coisas nas mãos das empresas não necessariamente leva ao caminho correto. Você quer que as empresas sejam parceiras para construir o que precisa ser feito. Mas há uma razão para ter governos, certo?".

Entendimento com o 'padrinho da IA'

O posicionamento de cautela e desconfiança com o entusiasmo pela rápida evolução da IA nem sempre foi bem recebido.

O ceticismo de Marcus foi ironizado em outros anos por seus pares (principalmente em alfinetadas pelo Twitter), mas a maré mudou: diversas personalidades da área começaram a adotar um tom diferente.

Geoffrey Hinton, chamado de "padrinho da IA", anunciou seu desligamento do Google e afirmou logo na sequência que considera os problemas com inteligência artificial "talvez mais urgentes do que os da mudança climática".

"Eu e Hinton temos visões diferentes sobre alguns aspectos da inteligência artificial. Eu me correspondi com ele há pouco, eu expliquei a minha posição e ele concordou comigo, o que nem sempre acontece. Mas a questão principal em que concordamos é controle", afirma.

"Não necessariamente concordo que seja uma ameaça maior do que a mudança climática, mas é difícil saber. Há muitos dados estabelecidos para tentar estimar os riscos das mudanças climáticas. Mas com a inteligência artificial nós nem sabemos como calcular esses riscos".

"Mas, para mim, a chance de que essas ferramentas sejam usadas para abalar democracias é essencialmente de 100%. Agora, se há chance de os robôs dominarem o planeta, não temos ideia. É razoável que algumas pessoas se dediquem a esse cenário. Estamos construindo ferramentas muito poderosas. Devemos considerar essas ameaças".