Resilience Starts with Us: Ethical Pathways to Innovation & Trust in AI

IA responsávelrequiresmore than technical controls. It demands ethical frameworks, transparent governance, and embedding human judgment at critical decision points to manage risk and accountability. 

Humans provide ethics, context, and reasoning that machines cannot replicate. Human oversightA automação integrada de políticassafer, more reliable, and more trustworthy AI deployment. 

Effective frameworks include data governance, model validation, bias detection, explainability, continuous monitoring, human-in-the-loop checkpoints, and risk-based escalationprocedures. 

Fully autonomous systems increase risk in complex or high-stakes scenarios. Human oversightcontinua sendoessential toajudamprevent errors, misuse, or unintended consequences.   

Ethical AI builds trust with users, regulators, and societypolíticas,enabling sustainable innovation rather than short-term gains that create long-term risk. 

Assista ao vídeoSaiba mais no SHIFT 2025para ver a transcrição com marcação de tempo

00:12 – 00:15

Nosso convidado tem um currículo extraordinário.

00:15 – 00:19

Ela é a CEO da Humane Intelligence.

00:19 – 00:26

Ela também foi a Enviada Científica dos Estados Unidos para Inteligência Artificial, nomeada pelo presidente Biden.

00:26 – 00:30

E mal posso esperar para apresentá-la e recebê-la entre nós, Dra.

00:30 – 00:32

Ruman Chowdhary.

00:42 – 00:44

Oi, bom dia.

00:44 – 00:45

É muito bom ver todos vocês.

00:45 – 00:47

Espero que tenham gostado dos pretzels.

00:47 – 00:48

Meu nome é Dr.

00:48 – 00:56

Aman Chowdhury, e foi incrível ouvir todas as palestras e conversas e, de fato, ver alguns rostos conhecidos na plateia.

00:56 – 00:57

Olá.

00:58 – 01:03

Então, estou aqui hoje para falar com vocês sobre caminhos éticos para a inovação e a confiança.

01:04 – 01:08

Então, quantas pessoas sabem quem é esse homem?

01:09 – 01:18

Normalmente percebo que, na plateia, talvez uma pessoa saiba, mas muitas vezes me deparo com olhares bastante confusos quando digo que ele é a razão pela qual todos nós estamos vivos hoje.

01:21 – 01:22

Isso mesmo.

01:22 – 01:23

OK, então vou explicar.

01:23 – 01:25

Meu nome é Stanislav Petrov.

01:25 – 01:31

E, em 1983, ele era o que hoje chamaríamos de “o ser humano no circuito”.

01:31 – 01:38

Ele era o responsável por receber os sinais de um sistema técnico que indicava se os Estados Unidos haviam ou não lançado uma arma nuclear.

01:38 – 01:39

Ele estava do lado russo.

01:39 – 01:51

E sua função era, em seu bunker, receber a informação de que um míssil havia sido lançado e, então, apertar o botão para o que, se você se lembra de sua história mundial ou de estudos sociais, é

01:51 – 01:51

conhecido como

01:51 – 01:52

destruição garantida.

01:52 – 01:56

E todos nós temos muita, muita sorte de que ele não tenha feito isso.

01:56 – 02:02

E eu adoro essa história porque, quando pensamos no papel do ser humano no ciclo tecnológico, não refletimos sobre isso com muita profundidade.

02:02 – 02:05

A gente só pensa: “Tem uma pessoa no final e ela vai simplesmente… fazer alguma coisa”.

02:05 – 02:07

Bem, ele era um ser humano no ciclo.

02:07 – 02:10

E ainda bem que ele não simplesmente foi lá e apertou o botão.

02:10 – 02:17

E ele usou algo muito, muito exclusivo dos seres humanos: as pistas contextuais e o pensamento crítico.

02:17 – 02:20

E ele ficou ali sentado pensando: bem, a Guerra Fria já dura décadas.

02:20 – 02:21

E não tem acontecido muita coisa

02:21 – 02:25

escalada; por que os Estados Unidos detonariam uma arma nuclear?

02:25 – 02:27

E ele optou por não apertar o botão.

02:27 – 02:31

E essa é a razão pela qual, na verdade, não acabamos entrando em uma guerra nuclear.

02:31 – 02:32

Isso é extremamente importante.

02:32 – 02:37

E o que é absolutamente incrível é que pouquíssimas pessoas sabem quem é esse homem.

02:37 – 02:48

E eu adoro essa história mais uma vez porque ela realmente demonstra como o pensamento crítico humano não pode ser substituído nem mesmo pela tecnologia mais avançada.

02:49 – 02:52

Então, quando falamos de inteligência artificial, o que queremos dizer?

02:52 – 02:53

Então, naquela época, o Sr.

02:53 – 02:59

Petrov teve acesso a algumas das tecnologias mais avançadas.

02:59 – 03:08

E talvez parecesse intimidante ou assustador que um ser humano pudesse se levantar e desafiar o resultado de uma ferramenta tecnológica tão sofisticada.

03:08 – 03:11

E é assim que, às vezes, pensamos sobre a inteligência artificial.

03:11 – 03:16

E esses são os tipos de manchetes que você talvez tenha aberto e visto no seu aplicativo de notícias hoje.

03:16 – 03:19

A solução para nossa crise na educação pode ser

03:19 – 03:31

IA: será que os educadores são os próximos na fila para serem substituídos por robôs? Os advogados, a próxima profissão a ser substituída por computadores? E a onipresente IA é tão boa quanto qualquer outra no diagnóstico da doença X?

03:31 – 03:33

ser humano ou médico.

03:33 – 03:36

E há algumas coisas que quero destacar sobre essas manchetes.

03:36 – 03:37

Então, número um.

03:37 – 03:42

Provavelmente, elas parecem ter surgido nos últimos três anos, uma revolução da IA generativa.

03:42 – 03:45

Na verdade, todas elas são de 2018 a 2020.

03:45 – 03:49

Estou nessa área há quase uma década, mais precisamente na área de IA responsável.

03:49 – 03:52

Trabalho com tecnologia há mais de 15 anos.

03:52 – 03:56

E parece que, a cada nova iteração, vemos essas manchetes se repetirem sem parar.

03:56 – 04:00

E, claro, a cada nova versão, a tecnologia fica cada vez mais sofisticada.

04:00 – 04:04

Mas há algumas coisas aqui que considero bastante problemáticas.

04:04 – 04:07

Primeiro, há essa antropomorfização da tecnologia.

04:07 – 04:20

Se você ler essas frases, parece que há uma espécie de pessoa com IA dentro de uma máquina que realmente quer ser médico, professor ou advogado, e ela vai lá e arrasta seu filho…

04:20 – 04:21

professor, que se debate e grita.

04:21 – 04:24

Quer dizer, uma revolta dos robôs, meu Deus.

04:24 – 04:25

Que drama, né?

04:25 – 04:29

Mas, o mais importante: onde está a pessoa nessa frase?

04:29 – 04:37

Em todas essas manchetes — e, repito, são manchetes muito comuns que você provavelmente vê todos os dias —, o ser humano é apenas um elemento passivo

04:37 – 04:41

destinatário do que a tecnologia decidiu fazer.

04:41 – 04:44

E isso não poderia estar mais longe da verdade.

04:44 – 04:50

Então, o que aconteceu é que as pessoas acham que a IA é uma espécie de horda de robôs.

04:50 – 04:51

Mas, na verdade, não é isso.

04:51 – 04:55

É algo que parece normal.

04:55 – 04:56

Posso voltar, por favor?

04:56 – 04:56

Desculpe.

04:58 – 04:59

vamos ver se isso acontece.

04:59 – 05:00

Pronto, obrigado.

05:00 – 05:11

O que as pessoas acham que é a IA são essas hordas de robôs chegando para mudar nossas vidas, tirar nossos empregos e talvez ensinar nossos filhos, mas a realidade é que, se você é um desenvolvedor como eu, isso

05:11 – 05:13

parece um pouco mais com isso.

05:13 – 05:22

E, na verdade, a realidade é que essas manchetes exageradas não refletem a verdade, que é a de que há muito esforço e trabalho humano em tudo, desde a coleta de dados, a curadoria de dados,

05:22 – 05:29

limpeza, segurança, programação, depuração e, depois, o lançamento, a expansão e a entrega do produto,

05:30 – 05:49

e implantação — tudo isso, na verdade, requer pessoas.

05:49 – 05:50

Portanto, não devemos simplesmente pensar que os educadores estão na fila para serem substituídos por robôs.

05:50 – 05:52

há muitas etapas humanas que ocorrem nesse meio tempo.

05:52 – 05:58

Nós conversamos sobre as coisas, e quando conversamos, quando lidamos com questões humanas,

05:58 – 06:04

estamos interagindo diretamente com essa tecnologia que parece tão futurística e tão capaz.

06:04 – 06:11

Bem, o que acontece é que começamos a impulsionar uma tecnologia que, na verdade, não leva em conta o que os seres humanos podem precisar.

06:11 – 06:22

E então, especificamente quando a tecnologia não está realmente cumprindo as narrativas fantásticas, hum, que podem ter sido prometidas em uma apresentação, o que acontece é que nós, na verdade,

06:22 – 06:28

presumimos que os seres humanos e a sociedade precisam se adaptar às limitações da tecnologia,

06:28 – 06:34

em vez de pensar em como podemos desenvolver a tecnologia para que ela se adapte às necessidades da sociedade.

06:34 – 06:37

E isso é algo que chamo de “ser humano adaptado”.

06:37 – 06:44

Então, quando pensamos nesse “ser humano adaptado”, uma das maneiras de enxergarmos a tecnologia de IA é: em que ela é boa?

06:44 – 06:46

Do que ela é capaz?

06:46 – 06:50

E há algumas coisas nas quais o aprendizado de máquina e a IA são realmente muito bons.

06:50 – 06:55

Portanto, todo esse preâmbulo não significa que a IA não seja capaz ou que o aprendizado de máquina não consiga fazer certas coisas.

06h55 – 06h57

Na verdade, eles podem fazer coisas realmente incríveis.

06:57 – 07:02

Mas o que importa aqui é distinguir aquilo em que as pessoas são realmente boas daquilo em que a tecnologia é realmente boa.

07:02 – 07:03

Então, no que a tecnologia é realmente boa?

07:03 – 07:06

Ela é boa em identificar padrões gerais.

07:06 – 07:08

É boa em analisar detalhadamente

07:08 – 07:10

e identificar coisas que são semelhantes entre si.

07:10 – 07:13

Essa é basicamente a maior parte da base da visão computacional.

07:13 – 07:17

E isso geralmente é consistente, dependendo da taxa de erro.

07:17 – 07:27

Então, quando desenvolvemos IA — e, repito, já faço isso há bastante tempo —, uma forma simplificada de explicar é dizer que coletamos muitos dados para desenvolver um sistema voltado para a pessoa comum de um

07:27 – 07:29

tipo específico.

07:29 – 07:32

E podemos coletar dados extremamente específicos.

07:32 – 07:35

E isso não quer dizer que estejamos fazendo isso para a pessoa comum em geral.

07:35 – 07:37

Mas definimos você, eu e o

07:37 – 07:41

pessoa sentada ao seu lado como parte de um perfil de cliente ou de uma comunidade.

07:41 – 07:45

E talvez isso se baseie em 10, 20, 100 pontos de dados diferentes.

07:45 – 07:50

E então você meio que parte do princípio de que existem algumas suposições feitas sobre os dados que estão faltando.

07:50 – 07:50

Tudo bem.

07:50 – 07:55

Bem, vou contar uma história sobre o que significa desenvolver para a pessoa comum.

07:55 – 08:04

E o que significa, afinal, “pessoa comum”, mesmo que se trate de um subconjunto hiperespecífico de pessoas que, poderia-se pensar, seria muito, muito previsível?

08:04 – 08:07

Aliás, uma coisa que adoro é contar anedotas, histórias e dar palestras

08:07 – 08:07

.

08:07 – 08:07

.

08:07 – 08:07

.

08:07 – 08:11

inteligência artificial, então nada a ver com inteligência artificial.

08:11 – 08:19

Um dos maiores erros que cometemos é achar que essa tecnologia é nova e que todos os problemas que enfrentamos são coisas que nunca vamos ver, que nunca vimos antes.

08:19 – 08:21

Nunca fizemos essas perguntas.

08:21 – 08:31

E, embora a IA esteja introduzindo novos paradigmas, novas perguntas e novas questões, os problemas que estamos resolvendo não são, na verdade, questões totalmente novas.

08:31 – 08:32

Então, essa é uma das minhas histórias favoritas de se contar.

08:32 – 08:37

Então, na década de 1940, os acidentes com aviões de linha estavam em um nível recorde.

08:53 – 09:07

Então, a Força Aérea dos EUA procurou os fabricantes de assentos de avião e disse: “Olhem, precisamos que vocês redesenhem esses assentos, porque o perfil médio dos

09:07 – 09:08

nossos pilotos mudou.”

09:08 – 09:13

É claro que, se pensarmos em quem são esses pilotos, eles, na verdade, constituem um subconjunto bastante restrito de pessoas.

09:13 – 09:17

São homens jovens, provavelmente com idades entre 18 e, no máximo, 30 anos.

09:19 – 09:20

Eles são bastante saudáveis.

09:20 – 09:22

São fisicamente aptos, etc.

09:22 – 09:24

E, naquela época, não haveria mulheres pilotos.

09:24 – 09:26

Seria bastante padronizado.

09:26 – 09:33

Então, na década de 1940, eles fizeram o que já haviam feito na década de 1920, ou seja, recrutaram mais de 4.000 desses pilotos.

09:33 – 09:36

Eles os avaliaram em 10 critérios diferentes.

09:36 – 09:37

Isso soa familiar?

09:37 – 09:43

Se você é um cientista de dados aqui presente, isso parece uma maneira bastante razoável de projetar um bom assento.

09:43 – 09:48

Então, com mais de 4.000 homens e 10 pontos de dados diferentes, eles calcularam a média e criaram um assento.

09:49 – 09:59

E ele não serviu a ninguém; nem um único desses cerca de 4.000 pilotos se sentou naquele assento e disse: “Sim, isso é confortável para mim”.

09:59 – 10:04

E a razão é que essa ideia de média se refere à pessoa que está no 50º percentil.

10:04 – 10:07

Se você conhece a curva em forma de sino, essa é a parte maior da curva.

10:07 – 10:11

curva, mas isso não é necessariamente uma pessoa real que exista.

10:11 – 10:20

É uma pessoa imaginária que é uma síntese de todos os outros pontos de dados que você coletou sobre pessoas como ela.

10:20 – 10:22

Então, eles reduziram isso a três dimensões.

10:22 – 10:26

E se a gente simplesmente pegar três pontos de dados e tiver mais dados gerais, certo?

10:26 – 10:29

Isso se encaixava em apenas cerca de 13% dos pilotos.

10:29 – 10:34

Bem, então a Força Aérea voltou atrás e disse: “Ok, fabricantes de aviões, isso não está funcionando para nós”.

10h34 – 10h36

Porque, é claro, trata-se de uma situação de vida ou morte.

10h36 – 10h41

Esses assentos precisam ser realmente funcionais e úteis, e os pilotos se encontram em situações muito extremas.

10:41 – 10:43

Portanto, isso não é algo pensado depois.

10:43 – 10:50

Então, eles voltaram e disseram: na verdade, em vez de projetar para a pessoa do 50º percentil, a pessoa média, o que eu quero que vocês façam é, na verdade, criar

10:50 – 10:53

os assentos se adaptem a 95% de todos os pilotos.

10:54 – 10:57

o que representa uma mudança radical na forma de medir o sucesso, certo?

10:57 – 11:02

Porque grande parte do que você está criando é a forma como você define o que é sucesso e como se parece o que é bom.

11:02 – 11:09

Então, eles redefiniram o conceito de “bom” e pensaram: em vez de fabricar um assento para o piloto médio, por que não fabricamos um assento que sirva para 95% de todos os pilotos?

11:09 – 11:13

E, mais uma vez, trata-se ainda de um pequeno subconjunto de pessoas, sem muita variação.

11:13 – 11:19

Então, todos os fabricantes de aviões responderam: “É impossível, não dá para fazer isso, nunca fizemos isso antes, vamos à falência”.

11:19 – 11:21

Essa é uma ideia absolutamente maluca.

11:21 – 11:24

E, claro, trata-se da Força Aérea, então eles podem fazer o que quiserem.

11h24 – 11h27

Tipo, tudo bem, vamos procurar outra pessoa que faça isso.

11:27 – 11:28

E foi o que eles fizeram.

11:29 – 11:31

foi simplesmente criar assentos ajustáveis.

11:31 – 11:42

Então, sempre que você entra no seu carro, em um ônibus ou em um avião e pode fazer coisas como mover o apoio de braço, levantar o apoio de cabeça e inclinar o assento de maneiras diferentes, essa é uma razão pela qual alguém

11:42 – 11:49

que tem 5’3, como eu, e um cara com 5’10 de altura média possam realmente entrar no mesmo carro e dirigi-lo.

11:49 – 11:56

Isso porque as Forças Armadas se opuseram e realmente disseram: “Queremos que vocês repensem a forma como projetam”.

11:56 – 11:59

Queremos que vocês repensem como estão fabricando essa ferramenta tecnológica.

11:59 – 12:06

Mais uma vez, em vez de dizer que estamos desenvolvendo para um público médio, vamos dizer que queremos que isso atenda a uma gama mais ampla de pessoas.

12:06 – 12:12

Uma mudança radical que, na verdade, mais uma vez, levou a produtos com melhor design e melhor resultado.

12:12 – 12:13

Então, quais são suas principais conclusões?

12:13 – 12:22

A primeira é que, para que a IA funcione, precisamos pensar de forma radical e diferente sobre como personalizar e desenvolver soluções para os usuários que temos.

12:22 – 12:26

A segunda é uma clara mudança na prestação de contas e na responsabilidade.

12:26 – 12:29

Eu cunhei o termo “terceirização moral”, e ele está ligado

12:29 – 12:38

a essa antropomorfização da inteligência artificial, à forma como usamos expressões que dão a impressão de que a IA tem intenção, que a IA tem razão, quando, na verdade, ela não tem nada disso.

12:38 – 12:41

São os seres humanos que criam e implementam a tecnologia.

12:41 – 12:49

Em vez de dizer que estamos criando IA para substituir advogados, o que está realmente acontecendo é que alguém está criando uma empresa de tecnologia jurídica.

12:49 – 12:56

E você pode optar por desenvolver tecnologia jurídica de forma a potencializar o ser humano, ou pode optar por desenvolvê-la de forma a tentar, intencionalmente, substituí-lo.

12:56 – 12:59

E essa é uma decisão tomada por seres humanos, uma decisão tomada por seres humanos sobre como

12:59 – 13:00

como a tecnologia está sendo utilizada.

13:00 – 13:08

E, finalmente, para colher os benefícios da inteligência artificial, é necessário investir tanto no lado humano quanto no lado técnico.

13:08 – 13:18

Portanto, em vez de ver o fato de que todos os nossos corpos têm tamanhos, formas e alturas diferentes como uma falha, isso é, na verdade, uma oportunidade de criar designs melhores e mais diversificados

13:18 – 13:19

abrangente.

13:20 – 13:22

Então, como a IA afetará nossa sociedade?

13:22 – 13:33

Então, eu diria que a palestra mais solicitada que me pedem para dar — e isso começou este ano; já fiz tantas palestras que falei bastante sobre IA ética e responsável —, mas a

13:33 – 13:37

futuro do trabalho em 2025 se tornou, de fato, o tema mais solicitado.

13:37 – 13:47

Ah, e o que fico feliz em relatar é que, na verdade, há muitas evidências empíricas; há muitos trabalhos realmente excelentes sendo realizados, nos quais as pessoas estão discutindo, sabe,

13:47 – 13:50

estão medindo e estudando quantitativamente o impacto de

13:50 – 13:51

IA na força de trabalho.

13:51 – 13:59

Então, por um lado, mais uma vez, o que você pode ver nas notícias ao abrir seu aplicativo de notícias é algo como pessoas defendendo a renda básica universal, pessoas dizendo que haverá

13:59 – 14:01

não haverá mais empregos para ninguém.

14:01 – 14:07

E o que estamos descobrindo, ao contrário disso, é que, na verdade, trata-se de uma conversa bem mais detalhada.

14:07 – 14:10

Então, vou falar com vocês sobre três artigos diferentes que eu realmente adoro.

14:10 – 14:13

Na verdade, existem vários artigos por aí, mas há três que eu adoro.

14:13 – 14:18

Quero começar com uma visão geral, como o impacto macroeconômico em todo o mundo nos próximos 10 anos.

14:18 – 14:20

Visão de médio prazo, que é vertical

14:20 – 14:30

por setor e o estudo mais detalhado e experimental realizado em uma empresa específica para observar como os funcionários reagiram e como responderam ao trabalho com IA e como

14:30 – 14:31

isso os afetou.

14:31 – 14:40

Também vou começar dizendo que dou palestras em muitas universidades e, na verdade, há uma preocupação muito justificada entre os jovens.

14:40 – 14:50

E o que estamos percebendo — e, repito, este é o primeiro ano em que realmente observamos isso — é que a Geração Z, ao entrar no mercado de trabalho em busca de empregos, especialmente aqueles de nível inicial, está enfrentando mais dificuldades porque

14:50 – 14:53

a inteligência artificial é, de fato, capaz de realizar algumas das tarefas de nível básico.

14:53 – 14:56

E isso não se limita apenas à pesquisa e à redação.

14:56 – 14:58

Na verdade, trata-se principalmente de programação.

14:58 – 15:02

Então, o que a IA realmente faz muito bem é programação de nível básico.

15:02 – 15:07

No entanto, ainda são necessários desenvolvedores sênior para garantir que o código seja robusto, funcional e assim por diante.

15:07 – 15:11

Mas muitos dos cargos de nível júnior simplesmente não estão sendo substituídos.

15:11 – 15:17

Então, à medida que as pessoas vão ganhando experiência e sendo promovidas, suas vagas de nível júnior simplesmente não estão sendo preenchidas.

15:17 – 15:20

E isso é preocupante para o futuro.

15:20 – 15:27

Então, o primeiro artigo sobre o qual quero falar é de uma economista do trabalho, a professora Dara Nesemoglu, do MIT.

15:27 – 15:32

Ele fez uma pesquisa e, repito, é alguém que trabalha com economia há muito, muito tempo.

15:32 – 15:37

E ele realmente entrou no campo da IA pensando no impacto sobre o trabalho e a produtividade.

15:37 – 15:45

Então, ele analisou o que se chama de produtividade total dos fatores, que é basicamente o que se obteria se somássemos o PIB de todos os países; isso seria, de certa forma, a PTF.

15:45 – 15:50

Ah. E o que ele calculou é que, nos próximos 10 anos, ela será o que ele chama de

15:50 – 16:01

Então, um impacto não insignificante, mas modesto, algo em torno de menos de 1%, o que pode não parecer muito, mas, aliás, é menos de 1% do PIB total do mundo inteiro, o que é bastante significativo.

16:01 – 16:03

Portanto, trata-se de um nível bastante significativo de automação.

16:03 – 16:06

Mas ele aprofundou ainda mais a análise para perguntar: o que está sendo automatizado?

16:06 – 16:13

E ele destaca que, na verdade, o que muitas pessoas percebem é que são mais os empregos de colarinho branco do que os de colarinho azul que estão sendo automatizados.

16:13 – 16:14

E isso é interessante.

16:14 – 16:19

Isso realmente destaca um dos aspectos particularmente radicais da IA generativa.

16:32 – 16:33

E ponto.

16:33 – 16:36

E… e… e acho que esse é um ponto importante.

16:36 – 16:36

E ponto.

16:36 – 16:38

E um ponto realmente importante.

16:38 – 16:50

E um ponto importante. E um ponto realmente importante.

16:50 – 16:50

E

16:50 – 16:54

É realmente o trabalho intelectual, o trabalho intelectual rudimentar que está sendo automatizado.

16:54 – 16:56

Nós realmente não tínhamos pensado nisso antes.

16:56 – 16:59

Ainda não tivemos que lidar com o impacto disso.

16:59 – 17:08

E, a propósito, voltando à Geração Z, alguns de vocês, se tiverem filhos nessa faixa etária, talvez saibam que seus filhos ou os amigos deles podem, na verdade, estar pensando em buscar empregos operários.

17:08 – 17:14

Porque, cada vez mais, os jovens não sabem qual é o valor da formação superior se a IA for realmente capaz de realizar esse trabalho.

17:14 – 17:20

Mas uma IA nunca será capaz de cortar seu gramado, consertar seu encanamento ou projetar um

17h20 – 17h21

telhado.

17:21 – 17:32

E o que eles estão percebendo é que, por muitas razões, um trabalho manual parece, para muitos deles, muito mais, você sabe, previsível e confiável do que tentar almejar algo realmente ambicioso como

17:32 – 17:40

algum tipo de cargo de vice-presidente sênior que pode ou não se concretizar, porque, se você não conseguir seu primeiro emprego, nunca vai ser promovido.

17:40 – 17:48

Então, sabe, ele observou que se prevê que a IA amplie a diferença entre a renda do capital e a renda do trabalho, mas também que haverá esse valor social negativo que nós realmente temos

17:48 – 17:50

levar em consideração.

17:50 – 18:02

coisas mais interessantes que estou observando é que, à medida que continuamos a avaliar o valor da IA, as pessoas estão cada vez mais levando em conta a externalidade negativa para a sociedade como um fator a ser considerado.

18:02 – 18:09

Afinal, de que adianta criar uma máquina de produtividade se, no fim das contas, ficarmos todos completamente incapacitados?

18:09 – 18:14

Há uma séria preocupação com questões como a dependência excessiva e com o que as pessoas chamam de “psicose da IA”.

18:14 – 18:20

Hum, estamos vendo que tecnologias educacionais estão surgindo, e há essa preocupação

18:20 – 18:22

de que os jovens possam se tornar excessivamente dependentes da tecnologia.

18:22 – 18:28

Como podemos refletir sobre essas questões e lidar com elas ao desenvolver tecnologias que ainda tragam benefícios líquidos?

18:29 – 18:37

Então, o segundo artigo sobre o qual gostaria de falar é, na verdade, de 2023 e foi escrito por uma equipe da OpenAI que trabalhou em conjunto com outro grupo de economistas.

18:37 – 18:41

Chama-se GPTs, e analisa diferentes setores.

18:41 – 18:49

E, em vez de afirmar de maneira genérica que todos esses empregos serão automatizados, o estudo analisa, setor por setor, quais são os que têm maior probabilidade de serem automatizados.

18:49 – 18:59

E a conclusão principal é que, para cerca de 80% da força de trabalho, cerca de 10% das tarefas seriam automatizadas, e para aproximadamente 19%, cerca de metade das tarefas seria afetada.

18:59 – 19:04

E isso se confirma bastante; isso foi há alguns anos e, de certa forma, acompanha as tendências que estamos observando.

19:04 – 19:13

Acho que muitos de nós usamos ferramentas de IA para tarefas básicas de produtividade, como ajudar a revisar suas anotações ou talvez fazer resumos de reuniões para você.

19:13 – 19:18

Isso não está substituindo seu trabalho e, na verdade, provavelmente está lhe devolvendo um pouco de tempo extra.

19:18 – 19:22

A maioria de nós nesta sala provavelmente faz parte desses 80%.

19:22 – 19:29

Esses 19% dos trabalhadores que estão vendo 50% de suas tarefas serem automatizadas apontaram profissões como jornalismo e assistente jurídico.

19:29 – 19:35

funções mais voltadas para pesquisa e conhecimento, que talvez não exijam especialização profunda.

19:36 – 19:37

Então, agora, o terceiro artigo.

19:37 – 19:46

E, mais uma vez, um dos principais temas que as pessoas querem entender é o que a inteligência artificial significa para minha força de trabalho se eu a utilizar, se meus funcionários a utilizarem, se minha…

19:46 – 19:47

empresa a adotar?

19:47 – 19:56

Bem, de forma esmagadora, posso afirmar que a resposta é: o ser humano aliado à IA é superior ao ser humano sem a IA ou à IA por si só.

19:56 – 19:58

E eu adoro esse estudo porque, em primeiro lugar, ele tem um nome fabuloso.

19:58 – 20:00

Chama-se “O Companheiro de Equipe Cibernético”.

20:00 – 20:04

E foi um estudo de caso realizado na Harvard Business School em parceria com a Procter & Gamble.

20:04 – 20:06

E eles montaram um experimento controlado randomizado.

20:06 – 20:17

No experimento, com cerca de 800 funcionários da P&G, eles realizaram um hackatão de vários dias e basicamente dividiram as pessoas em grupos — tanto equipes quanto participantes individuais —, sendo que alguns receberam o apoio da IA e outros não.

20:17 – 20:24

E o que eu gosto nesse artigo é que, muitas vezes, grande parte dos artigos sobre IA no local de trabalho trata de produtividade.

20:24 – 20:30

E eu realmente, realmente, realmente detesto essa métrica, porque, bem, há uma coisa que a IA sabe fazer: simplesmente produzir.

20:30 – 20:31

É só isso que ela faz.

20:31 – 20:34

E, na verdade, muitas vezes ela está errada com toda a certeza.

20:35 – 20:36

É preciso ser humano para ser

20:36 – 20:38

para entender se esse resultado…

20:38 – 20:43

Quero dizer, temos uma palavra para isso agora: chamamos de “slop” — “slop” de força de trabalho, “slop” de IA, certo?

20:43 – 20:45

É literalmente o termo usado para isso agora.

20:45 – 20:50

Então, apenas medir a produção pura não está realmente trazendo nenhuma resposta.

20:50 – 20:57

Mas o que eles testaram foram aspectos como a qualidade do trabalho, o tempo até a conclusão e, principalmente, a capacidade de auxiliar trabalhadores não especializados.

20h57 – 21h05

Porque, por outro lado, a preocupação dos profissionais mais experientes — ou, pelo menos, uma das visões — é que, bem, talvez no futuro não haja mais necessidade de especialização.

21:05 – 21:06

Você só precisa de…

21:06 – 21:11

de um ser humano inexperiente, você aplica um pouco de IA e, então, ele passa a ser igual a um desenvolvedor sênior.

21:11 – 21:13

Então, eles queriam testar tudo isso.

21:14 – 21:20

Então, como eles fazem isso para que você não precise ler um monte de gráficos de barras complicados?

21:20 – 21:22

A primeira coisa que analisaram foi a qualidade média das soluções.

21:22 – 21:25

Lembre-se: eles usaram o indivíduo sem IA como referência.

21:25 – 21:27

Eles têm as equipes sem IA.

21:27 – 21:29

Eles têm o indivíduo mais IA e a equipe mais IA.

21:29 – 21:33

Então você vai ver que adicionar a IA foi, de certa forma, uma vantagem.

21:33 – 21:38

Portanto, o grupo individual sem IA claramente não se saiu tão bem quanto qualquer um dos outros subgrupos.

21:38 – 21:41

E, quando receberam IA, eles tenderam a se sair melhor.

21:41 – 21:44

Mas, na verdade, não há uma diferença muito perceptível entre

21:44 – 21:46

o indivíduo com IA e a equipe com IA.

21:46 – 21:50

E lembrem-se, vou falar um pouco de estatísticas com vocês por um instante.

21:50 – 21:53

A barra… tipo, não se preocupem com onde ela realmente está.

21:53 – 22:00

Na verdade, é o termo de erro, aquela linha que indica o limite superior, ou seja, a área esperada onde o valor vai se situar.

22:00 – 22:09

Então, tudo isso quer dizer que, se as barras estiverem se sobrepondo significativamente — o que de fato está acontecendo —, as linhas pretas provavelmente indicarão números bastante, bastante semelhantes.

22:09 – 22:15

Então, a segunda coisa que eles analisaram foi se o fato de ser ou não o emprego principal fazia diferença.

22:15 – 22:19

E se você pegasse uma pessoa completamente inexperiente e lhe desse IA?

22:19 – 22:23

Hum… Bem, a realidade é que isso não funciona muito bem.

22:23 – 22:25

E acho que, intuitivamente, todos nós sabemos disso.

22:25 – 22:27

Mais uma vez, acabei de me referir à “desleixada IA”.

22:27 – 22:29

A IA está de forma muito convincente errada.

22:29 – 22:30

Parece meio inteligente.

22:30 – 22:39

Parece que você deu a uma criança — se você já ouviu falar do termo “síndrome de Dunning-Kruger” — que realmente sofre da síndrome de Dunning-Kruger em sua forma mais grave.

22:39 – 22:47

É sintetizar um monte de informação sem contexto e meio que jogar isso pra fora, mas não é necessariamente bom.

22:47 – 22:49

É só uma questão de volume.

22:49 – 22:59

E, de forma esmagadora, o que eles descobriram foi que indivíduos e equipes sem experiência ou com experiência limitada tiveram um certo impulso, mas, na verdade, ainda era preciso ter pessoas presentes na sala

22:59 – 23:05

que compreendessem o resultado e o que era necessário para realmente obter os benefícios dessa tecnologia.

23:05 – 23:07

E, finalmente, é claro, a economia de tempo.

23:07 – 23:09

Então, isso é superinteressante, que é o fato de que

23:09 – 23:11

E sabemos disso intuitivamente.

23:11 – 23:15

As equipes talvez não sejam tão boas em realizar as tarefas rapidamente.

23h15 – 23h19

é melhor, mas não são tão boas assim.

23h19 – 23h22

É preciso trabalhar bastante na construção de consenso, buscando as contribuições e opiniões das pessoas.

23:22 – 23:28

E a IA realmente economizou algum tempo, mas, claro, se eles estivessem trabalhando sozinhos com a IA, seriam mais rápidos.

23:28 – 23:32

E o mais importante: quem se saiu melhor?

23:32 – 23:39

Bem, acontece que as equipes que usaram IA, mesmo que não tenham sido necessariamente as mais rápidas na produção de algo, na verdade

23:39 – 23:43

tenderam a apresentar o maior número de soluções entre os 10% melhores.

23h43 – 23h44

Portanto, essa é uma descoberta realmente fascinante.

23:44 – 23:45

Mais uma vez, é muito, muito precoce.

23:45 – 23:49

Há outro artigo realmente excelente, da Microsoft, que não tenho aqui.

23:49 – 23:54

E esse, na verdade, trata do uso do Copilot, o que é ótimo, pois esse foi, na verdade, um estudo bem mais abrangente.

23:54 – 23:58

Acho que foram 20, 30 setores diferentes, analisando o assunto de forma bem mais aprofundada.

23h58 – 00h00

Portanto, há muitas pesquisas excelentes saindo de Stanford.

24:00 – 24:04

Se houver algo que lhe interesse, há uma quantidade significativa de pesquisas sendo realizadas.

24:04 – 24:08

Eric Ben-Yolson, da Universidade de Stanford, está conduzindo grande parte desse trabalho.

24:08 – 24:09

E, mais uma vez, muitas empresas estão surgindo

24:09 – 24:12

com iniciativas semelhantes, porque é algo que desperta bastante curiosidade em todos nós.

24:12 – 24:14

Como podemos integrar essa tecnologia?

24:15 – 24:21

Bem, e uma das coisas sobre as quais já conversamos há algum tempo é esse termo, sabe, alfabetização digital.

24:21 – 24:23

O que significa ter alfabetização em IA?

24:23 – 24:28

E acho que a versão anterior, mais ingênua, era algo como: “Ah, todo mundo precisa saber programar”.

24:28 – 24:30

Todo mundo simplesmente precisa programar.

24:30 – 24:31

Mas não havia contexto para isso.

24:31 – 24:33

Tipo, o que isso significa?

24:33 – 24:39

O que significa um CEO, um vice-presidente sênior ou um gerente de produto

24:40 – 24:42

Isso não é realmente relevante, certo?

24:42 – 24:49

Então, um dos meus livros favoritos sobre o que é alfabetização digital, ou o conceito de alfabetização digital, foi escrito, na verdade, por um professor de inglês.

24:49 – 24:52

E, como vocês provavelmente já sabem, gosto de usar exemplos mais antigos.

24:52 – 25:01

O livro dele foi escrito em 2003 e foi destinado aos seus alunos de inglês, que agora estão se aventurando a fazer pesquisas nessa novidade maluca chamada internet.

25:01 – 25:09

O que isso significava para a pesquisa e a credibilidade do seu trabalho se você não fosse mais à biblioteca, não entrevistasse mais pessoas e não tivesse mais microfichas?

25:09 – 25:19

e essas fontes primárias? O que aconteceria agora que você está usando um computador para fazer esse trabalho, ou a internet, ou essa nova coisa pouco confiável chamada Wikipédia para ajudá-lo com sua

25:19 – 25:19

pesquisa?

25:19 – 25:22

Então, há três níveis de alfabetização sobre os quais ele fala.

25:22 – 25:24

E isso é muito relevante para a IA.

25:24 – 25:32

E eu gosto muito dessa rubrica porque ela realmente ajuda a entender como você deve pensar sobre ser alfabetizado em IA, não importa em que estágio você esteja no uso da

25:32 – 25:33

tecnologia.

25:33 – 25:34

Então, o nível um é o de alfabetização funcional.

25:34 – 25:37

Isso se destina a pessoas que estão apenas do lado do usuário final de uma tecnologia.

25:37 – 25:39

E esse é o seu cliente comum.

25:39 – 25:42

A pessoa que interage com o chatbot, certo?

25:42 – 25:46

A pessoa que está tentando usar o agente de IA para fazer compras por ela.

25:46 – 25:48

E, na verdade, o seu trabalho é garantir uma ocupação eficaz.

25:48 – 25:54

A alfabetização crítica é para pessoas que não são programadoras, mas que são as responsáveis por tornar o projeto realidade.

25:54 – 25:55

Então, talvez sejam os proprietários do produto.

25:55 – 25:58

O trabalho deles é fazer uma crítica fundamentada.

25:58 – 26:03

E, em terceiro lugar, a alfabetização retórica, que é necessária para os desenvolvedores.

26:03 – 26:09

O que é realmente fascinante nisso é que, quanto mais perto você está do código, menos técnico isso se torna.

26:09 – 26:13

Portanto, quando você é programador, desenvolvedor, sua função é ter uma prática reflexiva.

26:13 – 26:15

Então, vamos falar um pouco sobre o que isso significa.

26:15 – 26:17

Digamos que você seja apenas o destinatário.

26:17 – 26:19

Você é a pessoa que está apenas interagindo com o chatbot.

26:19 – 26:21

Você quer saber qual é o seu saldo bancário.

26:21 – 26:22

Você quer transferir uma quantia.

26:22 – 26:25

E existe esse agente de IA que vai fazer isso por você.

26:25 – 26:29

Bem, como você deve encarar o fato de ser alfabetizado nesse mundo, e se esse é o seu papel?

26:29 – 26:37

O mais importante é que a parte de baixo se trata de aprender a interagir com a tecnologia, e não apenas como resultado dela.

26:37 – 26:38

Isso é realmente muito, muito importante.

26:39 – 26:47

você quer que seus usuários e clientes tenham uma compreensão crítica dos resultados e saibam como agir ou se a tecnologia deve ou não assumir

26:47 – 26:48

uma ação por eles.

26:48 – 26:54

Portanto, em vez de aceitarem cegamente, eles devem, na verdade, ser capazes de interagir com a tecnologia.

26:54 – 27:03

E, na verdade, essa é uma experiência muito melhor para quem usa qualquer coisa: quando você interage com ela e realmente vê e compreende os benefícios de trabalhar com

27:03 – 27:03

ela.

27:05 – 27:14

E, para o segundo nível de pessoas — os gerentes de produto, os gerentes de equipe, os proprietários de produto —, o mais importante é ser capaz de perceber quando as coisas estão dando errado,

27:14 – 27:15

quando as coisas não estão funcionando bem.

27:15 – 27:18

Isso é ainda mais importante na era da IA generativa.

27:18 – 27:20

Lembre-se: ela está incorreta com convicção.

27:20 – 27:21

Ela vai dizer “saída”.

27:21 – 27:28

Acho que, na semana passada, o grande escândalo foi o número de advogados que agora estão usando o ChatGPT para ajudá-los a redigir suas petições judiciais.

27:28 – 27:30

E adivinhem o que o ChatGPT faz?

27:30 – 27:31

Ele tem alucinações.

27:31 – 27:35

Então, ele está inventando casos que simplesmente não existem.

27:35 – 27:40

Então, mais uma vez, trata-se de ser inteligente o suficiente para questionar a tecnologia.

27:40 – 27:42

Observe as fontes que ela está apresentando.

27:42 – 27:43

Verifique tudo com cuidado.

27:43 – 27:46

Hum… E ser capaz de questionar o sistema.

27:47 – 27:52

E então, quando você é o desenvolvedor, o criador, o programador, a pessoa que coloca a mão no código.

27:52 – 27:54

as perguntas são as mais retóricas.

27:54 – 27:57

Onde está o poder no sistema?

27:57 – 28:05

Se houvesse um ser humano envolvido e Stanislav Petrov tivesse que decidir se deveria ou não detonar uma arma nuclear, ele seria capaz de realmente dizer não?

28:05 – 28:08

Ou ele teria simplesmente que seguir o que a IA dissesse?

28:08 – 28:16

Então, como se projeta um sistema para que haja a presença real do ser humano no processo, de modo que as pessoas possam realmente participar?

28:16 – 28:22

Minha maneira de abordar isso — e sei que a Anna fez a introdução — é que eu dirijo uma organização chamada Humane Intelligence.

28:22 – 28:34

Sou estatístico de formação, cientista social, e o que me interessa na IA Geracional é o fato de que cada pessoa terá essa tecnologia ao seu alcance.

28:34 – 28:42

E, durante meu tempo na Accenture, eu realmente refleti sobre essa questão: o que significa ter o ser humano no ciclo e o que significa ter garantia de IA?

28:42 – 28:50

A garantia de IA é simplesmente a capacidade de afirmar que este produto ou esta tecnologia vai agir, vai fazer o que eu imagino, o que prometi que ela faria.

28:50 – 28:51

E com o Gen.

28:51 – 28:52

IA, isso é realmente muito, muito difícil.

28:52 – 28:55

Então, como você faz isso dentro de uma organização?

28:55 – 28:58

Este é um artigo que escrevemos em 2020 sobre o assunto.

28:58 – 29:09

Na verdade, trata-se de ter processos claros e que permitam a prestação de contas, de distribuir a responsabilidade e também de ser transparente e, de fato, mais responsável em relação ao que o sistema pode ou não fazer.

29:10 – 29:16

Durante meu tempo no Twitter, eu fiz algo bastante radical: abri nosso código para análise pública.

29:16 – 29:19

Ora, o conceito de recompensa por bugs aqui na segurança cibernética não é novidade.

29:19 – 29:23

Mas um programa de recompensa por bugs algorítmicos era algo que nunca havia acontecido antes.

29:23 – 29:27

Então, abrimos nosso código para o mundo inteiro e dissemos: encontrem problemas, e nós lhes daremos dinheiro.

29:27 – 29:31

Na verdade, acabei criando uma organização sem fins lucrativos, a Human Intelligence, para realizar esse trabalho.

29:31 – 29:40

Então, trabalhamos com uma ampla gama de organizações, governos, grupos da sociedade civil e assim por diante, para realizar esses tipos de programas de recompensa por identificação de preconceitos.

29:41 – 29:44

E a novidade pela qual sou conhecido é o “red teaming”.

29:44 – 29:48

Então, mais uma vez, se você vem da área de segurança cibernética, o “red teaming” não é um conceito novo.

29:48 – 29:58

Mas a compreensão do uso do “red teaming” não se limita apenas a entender agentes mal-intencionados, mas também as consequências indesejadas quando seu sistema apresenta mau funcionamento, mesmo que não tenha sido intencional

29:58 – 30:00

ação intencional do usuário, é, na verdade, bastante difícil de se fazer.

30:00 – 30:04

E a maneira como abordei isso foi o que chamei de “feedback público estruturado”.

30:04 – 30:10

O que mais me tornou conhecido foi esse evento em que tivemos mais de 3.000 pessoas na DEF CON, que é o maior evento de segurança cibernética

30:10 – 30:18

do mundo, na qual, de fato, hackearam e analisaram, hum, oito modelos diferentes de IA, trabalhando em conjunto com os proprietários dos modelos e as empresas.

30:18 – 30:20

E isso vai contra a Carta de Direitos da IA.

30:20 – 30:26

Portanto, independentemente de esses modelos revelarem ou não dados pessoais, ou de apresentarem alucinações.

30:26 – 30:30

E trabalhamos com o governo dos EUA e com o governo Biden para realizar esse trabalho.

30:30 – 30:32

E continuamos a fazer isso até hoje.

30:33 – 30:40

E o que é fascinante é que, embora a pessoa comum possa ter essa tecnologia nas mãos, estamos cada vez mais distantes de

30:40 – 30:43

da capacidade de dar feedback sobre se está ou não funcionando.

30:43 – 30:46

Então, um dos projetos que realizamos foi em parceria com o Instituto Nacional de Padrões e Tecnologia.

30:46 – 30:50

E abrimos esse conceito de “red teaming” para qualquer pessoa nos Estados Unidos.

30:50 – 30:52

E isso, na verdade, aconteceu no ano passado.

30:52 – 31:00

Assim, qualquer pessoa nos Estados Unidos poderia, de fato, realizar testes de red teaming em modelos de IA e enviar feedback ao NIST para ajudar a criar padrões melhores sobre como essa tecnologia deve funcionar.

31:01 – 31:05

E, na verdade, o motivo pelo qual trabalho — fiz uma palestra no TED no ano passado sobre esse conceito de direito à reparação.

31:05 – 31:12

E o “red teaming” é um ponto de partida: essa ideia de simplesmente construir essa base de conhecimento e esse reflexo para que as pessoas possam dizer: “Ei, tem algo errado aqui”.

31:12 – 31:13

Quero levantar a mão.

31:13 – 31:15

Quero poder apontar isso.

31:15 – 31:20

Na verdade, isso não é algo que tenhamos pensado em incorporar à tecnologia que temos.

31:20 – 31:27

Então, como você pode utilizar a IA para resolver problemas de forma positiva e produtiva?

31:28 – 31:30

E então, o que vem a seguir?

31:30 – 31:31

Então, a IA é uma ferramenta de produtividade, certo?

31:31 – 31:32

Então, não é mágica.

31:32 – 31:33

Ela não tem intenção.

31:33 – 31:36

Não é arrastar o professor do seu filho para fora da sala de aula.

31:36 – 31:41

Então, quando você pensa em desenvolver e implementar IA, como pode pensar nisso colocando o usuário em primeiro lugar, certo?

31:41 – 31:49

Então, como você avalia os pontos críticos do que a IA faz bem e, o que é igualmente importante, do que as pessoas fazem bem, e como unir esses dois aspectos?

31:49 – 31:53

E, por fim, como você pode utilizar esse sistema para resolver problemas?

31:53 – 31:57

E, mais uma vez, quando pensamos nessa ideia do “human in the loop”, não se trata apenas de uma expressão.

31:57 – 31:58

Não é apenas um termo.

31:58 – 32:00

É o que as pessoas estão buscando hoje.

32:01 – 32:05

Sabe, estamos em um nível de confiança mais baixo do que nunca no que diz respeito aos sistemas de IA.

32:05 – 32:10

Durante meu período no governo Biden como enviado científico, tive o privilégio de viajar pelo mundo inteiro.

32:10 – 32:20

E você ficaria surpreso com a reação de todos, desde, você sabe, os anciãos tribais em Fiji até o jovem mais sofisticado que trabalha com o Gen.

32:20 – 32:20

IA.

32:20 – 32:22

Todos têm as mesmas perguntas.

32:22 – 32:28

Há perguntas sobre privacidade de dados, segurança, se os algoritmos estão ou não sendo utilizados, se as pessoas estão ou não sendo manipuladas por algoritmos.

32:28 – 32:31

e se isso está sendo usado de forma maliciosa contra eles.

32:31 – 32:33

Todo mundo tem as mesmas dúvidas.

32:33 – 32:39

Portanto, se você quer construir confiança nos sistemas que está criando, pense primeiro no usuário, não na tecnologia.

32:39 – 32:41

Muito obrigado pelo seu tempo.

32:46 – 32:47

Obrigado, doutor.

32:47 – 32:49

Chaldry, foi absolutamente fantástico.

32:49 – 32:50

Agradecemos sua presença aqui hoje.

32:50 – 32:51

Muito obrigado.