Algoritmos desgastam nossas habilidades de tomada de decisão?
Os algoritmos são diariamente incorporados em nossas vidas tecnológicas, ajudando a realizar uma variedade de tarefas, como garantir que o email chegue à sua tia ou que você seja correspondido a alguém em um site de namoro que goste das mesmas bandas que você.
Claro, esse código de computador tem como objetivo tornar nossa vida mais fácil, mas especialistas citados em um novo relatório do Pew Research Center e Imagining the Internet Center da Elon University estão preocupados que os algoritmos também possam nos fazer perder a capacidade de tomar decisões. Afinal, se o software pode fazer isso por nós, por que deveríamos nos incomodar?
"Algoritmos são os novos árbitros da tomada de decisão humana em quase qualquer área que possamos imaginar, desde assistir a um filme (reconhecimento de emoções Affectiva) a comprar uma casa (Zillow.com) a carros autônomos (Google)", Barry Chudakov, fundador e diretor da Sertain Research e StreamFuzion Corp., diz no relatório.
Mas, apesar dos avanços, os algoritmos podem levar a uma perda no julgamento humano, pois as pessoas se tornam dependentes do software para pensar por elas.
Essa é uma das conclusões do relatório. Ele incluiu respostas de 1.300 especialistas em tecnologia, acadêmicos, empresários e líderes governamentais sobre o que as próximas décadas esperam do futuro dos algoritmos.
Um dos temas que surgiu foi "a humanidade e o julgamento humano se perdem quando os dados e a modelagem preditiva se tornam primordiais". Muitos entrevistados temem que os seres humanos sejam considerados "insumos" no processo e não seres reais.
Além disso, eles dizem que, como os algoritmos assumem responsabilidades humanas e essencialmente começam a se criar, "os humanos podem ficar de fora do circuito".
E embora alguns especialistas tenham expressado preocupação, outros deram razões para que os algoritmos fossem uma solução positiva e deveriam expandir seu papel na sociedade.
Aqui está uma amostra de opiniões sobre os benefícios e desvantagens dos algoritmos do relatório:
Bart Knijnenburg, professor assistente em computação centrada no ser humano na Clemson University: "Meu maior medo é que, a menos que sintonizemos nossos algoritmos para auto atualização, será simplesmente muito conveniente que as pessoas sigam o conselho de um algoritmo (ou, é muito difícil ir além de tais conselhos), transformando esses algoritmos em profecias auto-realizáveis e usuários em zumbis que consomem exclusivamente itens fáceis de consumir. "
Rebecca MacKinnon, diretora do projeto Ranking Digital Rights da New America: "Algoritmos impulsionados pelo aprendizado de máquina rapidamente se tornam opacos até mesmo para seus criadores que não entendem mais a lógica que está sendo seguida para tomar certas decisões ou produzir certos resultados. A falta de responsabilidade e completa a opacidade é assustadora. Por outro lado, os algoritmos revolucionaram o relacionamento dos humanos com a informação de maneiras que salvam vidas e fortalecem e continuarão a fazê-lo. "
Jason Hong, professor associado da Carnegie Mellon University: "O velho ditado do lixo entra, o lixo ainda se aplica, mas a grande quantidade de dados e a velocidade dos computadores podem dar a falsa impressão de correção. Como um exemplo trivial, existem histórias de pessoas seguindo rigorosamente um GPS de perto e acabando dentro de um rio ".
Amali De Silva-Mitchell, uma futurista e consultora: "A modelagem preditiva limitará a auto-expressão individual e, portanto, a inovação e o desenvolvimento. Cultivará uma população alimentada por colher e aqueles na elite serão os inovadores. Haverá uma perda na decisão complexa habilidades de formação das massas ".
Marina Gorbis, diretora executiva do Institute for the Future: "Imagine, em vez de digitar palavras de busca e obter uma lista de artigos, apertar um botão e obter um artigo narrativo sobre um tópico específico de interesse. É o equivalente a cada um de nós muitos pesquisadores e outros assistentes ... Os algoritmos também têm o potencial de revelar vieses atuais na contratação, descrições de cargos e outras informações de texto. "
Ryan Hayes, proprietário da Fit to Tweet: "A tecnologia vai começar a nos ajudar a não apenas maximizar nossa produtividade, mas a mudar para fazer essas coisas de forma a nos tornar mais felizes, mais saudáveis, menos distraídos, mais seguros, mais pacíficos, etc. será uma tendência muito positiva. Em outras palavras, a tecnologia começará a nos ajudar a sermos humanos novamente, ao invés de nos sobrecarregar com mais abstração ".
David Karger, professor de ciência da computação do MIT: "A questão da equidade algorítmica e da discriminação é importante, mas já está sendo considerada. Se queremos algoritmos que não discriminam, seremos capazes de projetar algoritmos que não discriminar."
Daniel Berleant, autor de A Raça Humana para o Futuro: "Algoritmos estão menos sujeitos a agendas ocultas do que consultores e gerentes humanos. Portanto, a saída desses algoritmos será mais social e economicamente eficiente, no sentido de que eles estarão mais bem alinhados com seus objetivos pretendidos. Os humanos são muito mais suspeitos em seus conselhos e decisões do que os computadores. "
E você? O que acha?
Fonte original: