A ética das máquinas

[...] Imagine uma situação na qual uma máquina identifica o rosto de um terrorista internacional tentando embarcar em um voo no aeroporto de Tel Aviv. Imediatamente, um alarme soa e os embarques são suspensos. Todos os voos são, automaticamente, cancelados. Em poucos minutos, a notícia já percorre milhões de tablets e se espalha pelo mundo. O preço do barril de petróleo triplica e nas bolsas de valores há uma corrida pelas ações das empresas petrolíferas. Essa manobra faz com que o preço de outras ações desabe. A queda no valor das ações leva a uma corrida para o dólar e, em poucas horas, ele se valoriza mais de 15%. Contratos de importação e exportação são suspensos...

Essa cadeia inusitada de acontecimentos pode levar ao caos. Mas, o que significa um dia caótico na economia mundial diante da possibilidade de um ataque terrorista que poderia dizimar centenas de vidas? Os agentes da polícia portuária poderiam não ter identificado o rosto do terrorista e, nesse caso, a tragédia seria inevitável. No entanto, não é possível descartar a hipótese de que a máquina poderia ter identificado incorretamente um rosto e que, se ela não tivesse autonomia para suspender embarques e voos, um dia de caos na economia mundial poderia ter sido evitado. O que seria melhor? Tudo depende dos riscos que estamos dispostos a correr.

As máquinas estão se tornando cada vez mais autônomas. Máquinas autônomas não podem ser desligadas. Cada vez mais delegamos a elas decisões diante de situações imprevistas. Se o rosto do terrorista é identificado, o alarme soa e os embarques são automaticamente cancelados, independentemente da vontade de qualquer funcionário do aeroporto. Máquinas autônomas podem, também, alterar sua própria programação a partir de sua interação com o ambiente e, por isso, não temos controle pleno sobre elas.

Em geral, delegamos autonomia para máquinas quando, em algumas tarefas, sua performance é melhor do que a de um ser humano. Cálculos de engenharia, folhas de pagamento de grandes instituições são casos típicos nos quais a performance das máquinas ultrapassa o raciocínio e a memória humana. Em pouco tempo a identificação instantânea de rostos também integrará essa lista. [...]

Máquinas superinteligentes ainda são um sonho distante, mas não impossível. Não podemos, tampouco, descartar a possibilidade de elas serem produzidas acidentalmente. [...]

Como uma máquina autônoma não pode ser desligada, ficaríamos à mercê de seus caprichos, que poderia incluir a destruição completa da raça humana. [...]

O físico Stephen Hawking sugere que, diante desse risco, as pesquisas em inteligência artificial deveriam ser interrompidas. O filósofo Nick Bostrom, da Universidade de Oxford, defende que o aumento da inteligência se refletirá em um aprimoramento ético. Daniel Dennett, um dos pioneiros da Filosofia da Mente, afirma que a superinteligência não passa de uma lenda urbana que se baseia em atribuir às máquinas podres que elas nunca terão.

Temos de aguardar, com os dedos cruzados, os próximos capítulos da história da tecnologia. E torcer para que das inteligências sem consciência possa emergir algo mais do apenas eficiência cega, a competência sem compreensão.

(TEIXEIRA, João. Filosofia, Ciência e Vida. nº 121. Adaptado.)

Dentre os processos de construção linguística estão a coordenação e subordinação de palavras ou orações. Considerando a funcionalidade das orações no período “Em poucos minutos, a notícia já percorre milhões de tablets e se espalha pelo mundo.” pode-se dizer que é constituído por:

Why I miss technology-free travel

(Monday, Dec 12, 2016. Josh Noel.)

I’ve been a travel writer for almost eight years, but here's the irony: I’m probably a worse traveler now. Back when I was freewheeling and in my early 20s, I’d get into my car every summer with an atlas, a bag stuffed with CDs and verylittle forethought about where I was headed. I’d be gone for two weeks to three months. The extent of the technology I carried was the portable disc player connected to my tape player by a snaking wire. I stayed in pristine riverside campgrounds, quiet roadside motels operated by charming gray-haired couples and on the couches of people I’d met earlier that day. Once I forced myself to pick up a hitchhiker, a peaceful-looking, hippie-type dude. It wasn’t the life-altering experience I’d hoped for; he just needed a ride to work at a restaurant 10 miles up the road. Another time I got to talking with a guy who said he wasn’t sure he’d be able to afford his next tank of gas. I gave him five bucks — all I could spare — and he gave me a pink crystal that he said had special powers or some such. I rode around with that crystal on my dashboard for 15 years until I gave it to a friend who was dying of cancer. I wanted her to have something meaningful to me, and that was it, secured by chance at an Oklahoma rest stop and hauled everywhere I went until it became hers.

I don’t travel so much anymore. As much as I’d like to say it’s because of having a family and a job and obligations weightier than whether to turn left or turn right, it has more to do with the shiny little machines in our pockets. When it comes to conquering the unknown, those shiny little machines can tell us everything about everything: the top 10 hotels, top 10 attractions, top 10 kid-friendly sushi places and the top 10 vegan-and-dog-friendly cafes with Wi-Fi and a pool table. Worse, we’ve mostly given up thinking about how we get from point A to point B. I have mistyped a couple of letters of a street name into Waze, and unquestioningly driven a route that I knew made no sense. But the shiny little machine says it is so! When I realized my mistake, I was furious not because I was going to be late or because I had wasted time, but because I had surrendered my critical thinking about how I got from point A to point B.

So as I can, I build unpredictability into my routine. I walk different ways to work, to the train, to the bus and around our neighborhood with my little son. When traveling, I demand unpredictability. Yes, the quickest route and top-ranked whatever is mighty attractive (especially the quickest route), but when I can build in time for wandering, I do it. When I can spend time finding my way by foot — no apps or phone maps — I do that. When I can leave a hotel room with only a minimal plan, I walk out the front door. I duck into a bar. I sip a beer that I can’t find back home. I chat with a local. I ask for a dinner recommendation. And I value that answer over the wisdom of the online crowd every time.

(Available: http://www.chicagotribune.com. Adapted.)

It is true about the text that its author:

A ética das máquinas

[...] Imagine uma situação na qual uma máquina identifica o rosto de um terrorista internacional tentando embarcar em um voo no aeroporto de Tel Aviv. Imediatamente, um alarme soa e os embarques são suspensos. Todos os voos são, automaticamente, cancelados. Em poucos minutos, a notícia já percorre milhões de tablets e se espalha pelo mundo. O preço do barril de petróleo triplica e nas bolsas de valores há uma corrida pelas ações das empresas petrolíferas. Essa manobra faz com que o preço de outras ações desabe. A queda no valor das ações leva a uma corrida para o dólar e, em poucas horas, ele se valoriza mais de 15%. Contratos de importação e exportação são suspensos...

Essa cadeia inusitada de acontecimentos pode levar ao caos. Mas, o que significa um dia caótico na economia mundial diante da possibilidade de um ataque terrorista que poderia dizimar centenas de vidas? Os agentes da polícia portuária poderiam não ter identificado o rosto do terrorista e, nesse caso, a tragédia seria inevitável. No entanto, não é possível descartar a hipótese de que a máquina poderia ter identificado incorretamente um rosto e que, se ela não tivesse autonomia para suspender embarques e voos, um dia de caos na economia mundial poderia ter sido evitado. O que seria melhor? Tudo depende dos riscos que estamos dispostos a correr.

As máquinas estão se tornando cada vez mais autônomas. Máquinas autônomas não podem ser desligadas. Cada vez mais delegamos a elas decisões diante de situações imprevistas. Se o rosto do terrorista é identificado, o alarme soa e os embarques são automaticamente cancelados, independentemente da vontade de qualquer funcionário do aeroporto. Máquinas autônomas podem, também, alterar sua própria programação a partir de sua interação com o ambiente e, por isso, não temos controle pleno sobre elas.

Em geral, delegamos autonomia para máquinas quando, em algumas tarefas, sua performance é melhor do que a de um ser humano. Cálculos de engenharia, folhas de pagamento de grandes instituições são casos típicos nos quais a performance das máquinas ultrapassa o raciocínio e a memória humana. Em pouco tempo a identificação instantânea de rostos também integrará essa lista. [...]

Máquinas superinteligentes ainda são um sonho distante, mas não impossível. Não podemos, tampouco, descartar a possibilidade de elas serem produzidas acidentalmente. [...]

Como uma máquina autônoma não pode ser desligada, ficaríamos à mercê de seus caprichos, que poderia incluir a destruição completa da raça humana. [...]

O físico Stephen Hawking sugere que, diante desse risco, as pesquisas em inteligência artificial deveriam ser interrompidas. O filósofo Nick Bostrom, da Universidade de Oxford, defende que o aumento da inteligência se refletirá em um aprimoramento ético. Daniel Dennett, um dos pioneiros da Filosofia da Mente, afirma que a superinteligência não passa de uma lenda urbana que se baseia em atribuir às máquinas podres que elas nunca terão.

Temos de aguardar, com os dedos cruzados, os próximos capítulos da história da tecnologia. E torcer para que das inteligências sem consciência possa emergir algo mais do apenas eficiência cega, a competência sem compreensão.

(TEIXEIRA, João. Filosofia, Ciência e Vida. nº 121. Adaptado.)