[Inglês] O levante das maquinas assassinas

[Yugoloth]

WASHINGTON - The unmanned bombers that frequently cause unintended civilian casualties in Pakistan are a step toward an even more lethal generation of robotic hunters-killers that operate with limited, if any, human control.

The Defense Department is financing studies of autonomous, or self-governing, armed robots that could find and destroy targets on their own. On-board computer programs would decide whether to fire their weapons.

"The trend is clear: Warfare will continue and autonomous robots will ultimately be deployed in its conduct," Ronald Arkin, a robotics expert at the Georgia Institute of Technology in Atlanta, wrote in a study commissioned by the Army.

"The pressure of an increasing battlefield tempo is forcing autonomy further and further toward the point of robots making that final, lethal decision," he predicted. "The time available to make the decision to shoot or not to shoot is becoming too short for remote humans to make intelligent informed decisions."

Autonomous armed robotic systems probably will be operating by 2020, according to John Pike, an expert on defense and intelligence matters and the director of the security Web site GlobalSecurity.org in Washington.

This prospect alarms experts, who fear that machines will be unable to distinguish between legitimate targets and civilians in a war zone.

"We are sleepwalking into a brave new world where robots decide who, where, and when to kill," said Noel Sharkey, an expert on robotics and artificial intelligence at the University of Sheffield, England.

Human operators thousands of miles away in Nevada, using satellite communications, control the current generation of missile-firing robotic aircraft, known as Predators and Reapers. Armed ground robots, such as the Army's Modular Advanced Armed Robotic System, also require a human decision-maker before they shoot.

As of now, about 5,000 lethal and nonlethal robots are deployed in Iraq and Afghanistan. Besides targeting Taliban and al-Qaeda leaders, they perform surveillance, disarm roadside bombs, ferry supplies, and carry out other military tasks. So far, none of these machines is autonomous; all are under human control.

The Pentagon's plans for its Future Combat System envision increasing levels of independence for its robots. "Fully autonomous engagement without human intervention should also be considered, under user-defined conditions," said a 2007 Army request for proposals to design future robots.

Fonte: http://www.philly.com/inquirer/world_us ... hines.html

[_Virtual_Adept_]

Enquanto estiver sendo controlado por humanos, não há tantos problemas.

A questão é, realmente, quando virar autônomo e as definições dadas pelos humanos de o quê deve ser caçado ficarem vagas.

[Sr. Pichu]

ou uma IA que possa ser hackeada :p

[_Virtual_Adept_]

Para hackear um robô desses ele teria que ter uma porta de acesso acessível, em primeiro lugar.
Senão, só se você tivesse como desligá-lo e conectar-se ao computador dele.
Eu creio que o maior problema seria a tecnologia caindo nas mãos erradas - e isso não seria difícil, porque as chances de o cérebro do robô resistirem a um ataque qualquer são relativamente grandes.

[Sr. Pichu]

Para hackear um robô desses ele teria que ter uma porta de acesso acessível, em primeiro lugar.
Senão, só se você tivesse como desligá-lo e conectar-se ao computador dele.
Eu creio que o maior problema seria a tecnologia caindo nas mãos erradas - e isso não seria difícil, porque as chances de o cérebro do robô resistirem a um ataque qualquer são relativamente grandes.

é só alguém não inventar de colocar wi-fi em um deles >: 3

[_Virtual_Adept_]

Era o que eu estava pensando. Robôs desse tipo não teriam wi-fi.
Mas acho que eu estou errado. Não sei exatamente como eles serão tratados, talvez possam vir a ter para eventual controle manual.
É uma possibilidade...

[Anonimous000]

Acredito que a única possibilidade das máquinas se rebelarem é se as máquinas do futuro, depois de conquistarem o mundo, enviarem um robô ou algo semelhante para o (nosso) presente para reprogramar os computadores de modo a se rebelarem e assim conquistarem o mundo. Claro que isso gera um paradoxo temporal porque fica impossível determinar a origem da rebelião, uma vez que ela só é possível se ela acontecer... Qualquer semelhança com trabalhos cinematográficos de governadores americanos é mera coincidência.