Hackingcomo modo, método e cultura performativa da tecnologia

10 Março 2022, 16:00 • Alexander Mathias Gerner

I Introdução e Discussão debate estudos de casos prático-teorico

1.  Serão os seres Humanos “hackable animals” Harari (2018/2020)Cf. Harari (2018b): “In order to survive and prosper in the 21st century, we need to leave behind the naive view of humans as free individuals – a view inherited from Christian theology as much as from the modern Enlightenment – and come to terms with what humans really are: hackable animals. We need to know ourselves better.” cf. "The most important thing to know about the 21st Century is that humans are becoming hackable animals (…) How to live in a world where human beings can be hacked? How to protect democracy and the very meaning of human life when a computer algorithm could know us better than our mothers do? That's the most complicated challenge your generation faces." (HARARI, 2020)HARARI, Y. N. Rebellion of the hackable animals. The Wall Street Journal. Dow Jones & Company, New York, 1 maio 2020. Disponível em: https://www.wsj.com/articles/rebellion-of-the-hackable-animals-11588352123. Acesso em: 14 maio 2020. HARARI, YN 21 lessons for the 21st Century. London: Jonathan Cape, 2018. ISBN 978-1-7873-3067-2.HARARI, Y. N. The myth of freedom. The Guardian, London, 14 set. 2018(b). Disponível em: https://www.theguardian.com/books/2018/sep/14/yuval-noah-harari-the- new-threat-to-liberal-democracy. Acesso em: 10 mar. 2020.  

Atentemos FUCHS (2020[2021]) sobre as críticas a Harari não visto como "guerreiro crítico", mas interpretado como afirmativo "destruidor cínico" da autonomia, liberdade humana e de seres humanos a ser superada por algoritmos numa visão pós-humana do mundo em vez de uma visão do mundo em que a "Defesa da Humanidade" (assim o título do livro de Fuchs), pode ser vista como uma luta ultrapassada e obsoleta por uma causa perdida ("Homo sapiens como um algoritmo obsoleto") e entregue as entidades e empresas que controlam os grandes dados dotados de algoritmos e dados como o único fundamento da natureza

Fuchs, Thomas (2021). In Defence of the Human Being. Foundational Questions of an Embodied Anthropology. Oxford: OUP.

2, Brain Hacking? Dresler, Martin, Anders Sandberg, Christoph Bublitz, Kathrin Ohla, Carlos Trenado, Aleksandra Mroczko-Wąsowicz, Simone Kühn, and Dimitris Repantis. “Hacking the Brain: Dimensions of Cognitive Enhancement.” ACS Chemical Neuroscience 10, no. 3 (2018): 1137–48. https://doi.org/10.1021/acschemneuro.8b00571.

“Numa sociedade da informação cada vez mais complexa, as exigências de funcionamento cognitivo estão a aumentar constantemente. Nos últimos anos, foram propostas numerosas estratégias para aumentar a função cerebral. Evidências de sua eficácia (ou ausência delas) e efeitos colaterais têm suscitado discussões sobre implicações éticas, sociais e médicas. No debate público, o aprimoramento cognitivo é frequentemente visto como um fenômeno monolítico. Em uma análise mais detalhada, no entanto, o aprimoramento cognitivo se torna um conceito multifacetado: Não há um realçador cognitivo que aumenta a função cerebral em si, mas uma grande variedade de intervenções que podem ser agrupadas em estratégias bioquímicas, físicas e comportamentais. Esses melhoradores cognitivos diferem em seu modo de ação, o domínio cognitivo a que se destinam, a escala de tempo em que trabalham, sua disponibilidade e efeitos colaterais, e como eles afetam diferentemente diferentes grupos de sujeitos.” 

3. Body Hackers- Cyborgues

Neil Harbisson- Cyborg: sonochromatism- colour-vibration-sound brain interface: sense enhancement

“A cyborg is a cybernetic organism, a hybrid of machine and organism, a creature of social reality as well as a creature of fiction. Social reality is lived social relations, our most important political construction, a world-changing fiction. The international women's movements have constructed 'women's experience', as well as uncovered or discovered this crucial collective object. This experience is a fiction and fact of the most crucial, political kind. Liberation rests on the construction of the consciousness, the imaginative apprehension, of oppression, and so of possibility. The cyborg is a matter of fiction and lived experience that changes what counts as women's experience in the late twentieth century. This is a struggle over life and death, but the boundary between science fiction and social reality is an optical illusion.” Donna Harraway, Cyborgue manifesto https://web.archive.org/web/20120214194015/http://www.stanford.edu/dept/HPS/Haraway/CyborgManifesto.html

3.1 Problema de Invasividade da Tecnologia: o caso do melhoramento: Invasividade somática ou invasividade mental e noetica, ou ambas?

Em vez de divisão dicotómica invasiva/não invasiva (como aplicado na estimulação cerebral) DBS =estimulação cerebral electromagnética invasiva, etc. /Imersão RVR=não invasiva devemos distinguir graus de invasividade somática, neótica e discursiva/ simbólica e informacional (em relação à governação de nós próprios _ autonomia-heteronomia) (permanente/temporário a) directo b) indirecto e factores de risco de utilização a curto/longo prazo.  Se a pesquisa sobre o uso a longo prazo não for dada, devemos considerar o nível de invasividade de um determinado "aprimoramento" ou autotecnologia como alto até prova em contrário (princípio da precaução).

3.2 O Caso da Neuralink (Elon Musk)

Os potenciais danos psicológicos das interfaces avançadas do cérebro-computador, ou os perigos de "brain-hacking" ou de "mind-jacking". 

Impactos fisiológicos

Impactos comportamentais

Impactos societais

Se as interfaces cérebro-computador realmente têm a capacidade de melhorar substancialmente o que um utilizador pode alcançar, estaremos em perigo de criar uma sociedade a dois níveis onde os privilegiados são capazes de obter melhores empregos, ganhar mais e ter uma qualidade de vida superior, em comparação com aqueles que são demasiado pobres ou demasiado ”merecedores" aos olhos da sociedade para se apropriarem da tecnologia?

Problema da invasão da privacidade: “A privacidade é ser capaz de manter certas coisas íntimas para si mesmo - os seus pensamentos, as suas experiências, as suas conversas, os seus planos. Os seres humanos precisam de privacidade para poderem libertar-se do fardo de estar com outras pessoas. Precisamos de privacidade para explorar livremente novas ideias, para tomarmos as nossas próprias decisões. A privacidade protege-nos de pressões indesejadas e abusos de poder. Precisamos que sejam indivíduos autónomos, e para que as democracias funcionem bem, precisamos que os cidadãos sejam autónomos..” VÉLIZ, 2020

VÉLIZ, C. (2020). Privacy is power. Why and how you should take back control of your data. Random House Australia. 

4. Posições de avaliação da tecnologia _Sarewitz e Karas (2007) como refere Robert Blanck (2016) para fins de Aperfeiçoamento Cognitivo distinguem quatro quadros de princípios de Política:

4.1 uma perspectiva de laissez-faire através da qual a liberdade dos indivíduos de utilizarem tecnologias de melhoria no seu próprio julgamento parece, contudo - na minha opinião - inadequada quando se trata de crianças, pois estas não são totalmente autónomas legalmente nas suas decisões em que o responsável participa e a delegação de responsabilidade é introduzida, como por exemplo os pais devem ter uma palavra a dizer na decisão pelo melhor dos seus filhos.

4.2 opção de optimismo tecnológico gerido em que a participação dos governos é necessária para promover a inovação e, bem assim, salvaguardar a equidade ou mesmo gerir os riscos carece da robustez realista da intervenção face à rapidez da mudança e à correspondente lentidão para responder ao novo desenvolvimento das tecnologias de melhoramento cognitivo, por exemplo, no reforço da atenção quando meramente mediadas por conselhos reguladores governamentais.

4.3 perspectiva inclui um cepticismo tecnológico gerido em que se abre uma oposição entre instituições e tecnologias, a fim de transmitir a noção de que a qualidade de vida (das crianças) surge mais dentro das instituições do que nas suas tecnologias. Esta posição ressoa na superfície com intervenções pedagógicas de primeira posição e a primazia da autoformação sobre a fixação rápida de métodos medicalizados de melhoramento cognitivo farmacológico (por exemplo, os professores das escolas receiam uma sobre-medicação de TDAH).

4.4 as perspectivas do essensalismo humano na sua postura bioconservadora para além da motivação religiosa incluem motivações evolutivas biológicas que conduzem a políticas de restrições e de traçado de linhas entre características apropriadas (conservação de traços humanos e florescimento) de EC inaceitáveis.

Levantam-se questões sobre como fazer com que estas posições interajam e entrem em diálogo.

II. Sobre a Prática, - Técnica e o Significado Cultural do Hacking

1. Introdução do Hacking/Hacker

O "hacker" nasceu na década de 1950 e depressa se estabeleceu como um personagem ambíguo.  Aos hackers associa-se a rebeldia e o crime, heroísmo e desrespeito, destruição e optimização, autodeterminação e funcionamento eficiente, subversividade e inovação. O hacking é um método, um estado de espírito, uma filosofia.  No início, o hacking era dirigido a dispositivos e artefactos técnicos, agora falamos de hacking da vida, hacking do humano, hacking da cultura.

O hacking testa os limites das nossas tecnologias mais avançadas e sofisticadas, mas recorre à tradição, dando-lhe um novo impulso:

desde o tinkering (mexer com),  Reequipamento (retooling) , Reparação (repair),  artes e ofícios de bricolage até ao rádio hacking (ham radio) ,

ciência amadora e DIY, biologia de garagem.  O conceito do Hacking casa alta tecnologia com lo-tech, engenharia academicamente treinada e ciência cidadã autodidacta.

2. Definições e mudanças conceptuais

“8 definitions of hack/ originally, someone who makes furniture with an axe]

1. A person who enjoys exploring the details of programmable systems and how to stretch their capabilities, as opposed to most users, who prefer to learn only the minimum necessary. RFC1392, the Internet Users' Glossary, usefully amplifies this as: A person who delights in having an intimate understanding of the internal workings of a system, computers and computer networks in particular.

2. One who programs enthusiastically (even obsessively) or who enjoys programming rather than just theorizing about programming.

3. A person capable of appreciating hack value.

4. A person who is good at programming quickly.

5. An expert at a particular program, or one who frequently does work using it or on it; as in ‘a Unix hacker’. (Definitions 1 through 5 are correlated, and people who fit them congregate.)

6. An expert or enthusiast of any kind. One might be an astronomy hacker, for example.

7. One who enjoys the intellectual challenge of creatively overcoming or circumventing limitations.

8. [deprecated] A malicious meddler who tries to discover sensitive information by poking around. Hence password hacker, network hacker. The correct term for this sense is cracker.

The term ‘hacker’ also tends to connote membership in the global community defined by the net (see the network. (…)It is better to be described as a hacker by others than to describe oneself that way. (…)See also geek, wannabee. This term seems to have been first adopted as a badge in the 1960s by the hacker culture surrounding TMRC and the MIT AI Lab. We have a report that it was used in a sense close to this entry's by teenage radio hams and electronics tinkerers in the mid-1950s.” http://www.catb.org/~esr/jargon/html/H/hacker.html

3. Hacking como modo, método e cultura performativa da tecnologia

O hacking pode ser entendido como um método de sondagem e investigação, num sentido inicialmente proposto por P. R. Samson (Levy, 2010), de uma aplicação não convencional de tecnologia que pode aumentar o potencial da experiência humana multiplicando a sua energia, transformando os seus usos habituais para abrir novas perspectivas de interacção com e tornar-se um "Outro".

Hacking como desempenho da tecnologia inclue o reorganizar e transformar a forma como as máquinas e a tecnologia modulam o nosso pensamento, moldam os nossos jogos de linguagem e coreografam o nosso conhecimento, influenciam e manipulam (engenharia social), e dão ou não acesso à forma como usamos média.

No hacking das tecnologias, podemos ser capazes de agir, pensar e partilhar conhecimentos de forma diferente. Os hacks não só exploram regras e territórios pré-destinados, como também mostram actos de rebelião do utilizador (transgressão das regras do jogo) e valor ambivalente entre destruição e construção, implicando assim a reapropriação da actividade em aumentos das possibilidades técnicas, sociais e políticas.

“As I talked to these digital explorers, ranging from those who tamed multimillion-dollar machines in the 1950s to contemporary young wizards who mastered computers in their suburban bedrooms, I found a common element, a common philsopohy that seemed tied to the elegantly flowing logic of the computer itself.

It was a philosophy of sharing, openness, decentralisation, and getting your hands on machines at any cost to improve the machines and to improve the world.T his Hacker Ethic is their gift to us: something with value even to those of us with no interest at all in computers. It is an ethic seldom codified but embodied in the behavior of hackers themselves.” Levy (2010; Preface, p.IX)

“In the late 1960s and the 1970s, the meaning of “hack” broadened to include activities that tested limits of skill, imagination, and wits. Hacking was investigating a subject for its own sake and not for academic advancement, exploring the inaccessible places on campus, doing something clandestine or out of the ordinary, and performing pranks.

The word “hack” found its way into common usage outside MIT with the advent of computer hacking in the early 1960s. In the 1980s, experts in the computer field made a distinction between  hacking and cracking. “Hacking” denotes nondestructive mischief while “cracking” describes activities such as unleashing a computer virus, breaking into a computer, or destroying data.

By the mid-1980s, “hacking” had come to be used at MIT primarily to describe pranks and “unapproved exploring” of the Institute. Many of the earlier definitions have disappeared from use on campus.” Leibowitz, B. (2011).”Hack Hacker Hacking. A short terminology” in: Institute Historian T.F. Peterson (2011:5-6) Nightwork. A history of Hacks and pranks at MIT. MIT Press: Cambridge Mass. 

Hacking como performance da tecnologia deve ter em conta metáforas de desempenho e a performatividade da tecnologia na filosofia da tecnologia que incluem o reorganizar e transformar a forma como as máquinas e a tecnologia encenam o nosso pensamento, moldam os nossos jogos de linguagem e coreografam o nosso conhecimento, influenciam e manipulam (engenharia social), e dão ou não acesso à forma como usamos média.

- 

Hacking como desviar e reusar o artefacto técnico do mapa

CITY/MAP hacking no surrealismo francês de Guy Debord e o exemplo de uso de mapas funcionais ( perturbar  e mexer com as representações existentes para trocar a cidade e ter uma experiência não comum de deixar guiar-se com o objeto técnico de um mapa no lugar desviante/outro e assim descobrir algo não programado nos seus percursos e encontros com as pessoas e mediado pelo objeto que é reusado e atualizado em lugares diferentes dando resultados não-esperados.

"A Cidade Nua” Um mapa psicogeográfico de Guy Debord.

- 

Walter, B.(2021) Hacking e dispositívos tecnológicos. Praticas de liberdade de novos mundos. Curtiba: ApPris pp186

Uma problematização do coletivo "anonymous" podia ter clarificado mais o conceito do comum usado na tese do Bruno Walter- especialmente na terceira parte- em que se identifica a maquina técnica do comum ou o “Avatar de uma identidade colectiva”(Padilla 2012:65; cit em Walter 2019:98, n42) consiste.

Ou seja, o que é a característica da multidão para as práticas da liberdade senão a sua distribuição de responsabilidade e o desaparecimento do conceito da autoria e do individuo no sentido de responsabilidade civil jurídico: O lado crítico da descentralização do poder e da ação política.

A multidão é um conceito de estratégia da ação política dentro do livro, mas como essa multidão constitui uma prática da liberdade não é suficientemente clarificado. Como o anonimous é apresentado em Walter (2021)- é uma estratégia de evasão a “accountability” judicial das suas ações para “maximizar a eficácia[...]” -que esta no fundo da primeira definição de Peter Samson do Tech Model Railway Club apresentado do hacking- “[...] de uma intervenção, escapar a possíveis perseguições judiciais ou evitar se expor em condições consideradas desfavoráveis” (cit. em Walter 2019:98).

_

Hacker Ethics (Levy, Stephen (2010) Hackers: Heroes of the Computer Revolution- [1) Judge Hackers by their hacking Activity]

_

Webb (2020) not only interprets hackers as vital disrupters, but as well as citizens that invent and build out new forms of distributed, decentralized democracy in the digital age and into cyberspace while we are being confronted with powerful technological mass surveillance and rising authorianism enabled by new technology and hacker ethics that may push for exploiting the weakness in computers and systems of the powerful in the sense of Hackers Ethics: "Privacy for the weak, transparency for the powerful" (Anderson, 2020; Assange et al., 2012).

Anderson,  Patrick D. (2020). Privacy for the weak, transparency for the powerful: the cypherpunk ethics of Julian Assange. Ethics and Information Technology https://doi.org/10.1007/s10676-020-09571-x

Webb, Maureen (2020). Coding Democracy. How Hackers are Disrupting Power, Surveillance and Authoritarianism. Cambridge Mass. MIT Press.

Introdução ao Curso História e Filosofia da Tecnologia, Método de Avaliação e Introdução a Filosofia da Tecnologia

10 Março 2022, 14:00 • Alexander Mathias Gerner

1. Programa [Introdução: História e Filosofia da Tecnologia]: 

Programa

[Introdução: História e Filosofia da Tecnologia]

1.1 Hacking, Alteridade e Tecnologia do Humano.

1.2 O problema mente-tecnologia.

Recentemente, entramos numa nova fase de desenvolvimento humano em que começamos a depender cada vez mais da tecnologia e de máquinas inteligentes. Na criação e na utilização destes artefactos mudamos a nossa relação com esta tecnologia e connosco próprio. Conceitos que no passado foram aplicados à mente e ao cérebro humano estão agora alargados a sistemas computacionais. Esta nova maneira de conceptualizar os fundamentos básicos da mente e a sua relação com os artefactos inteligentes cria uma nova constelação de problemas chamado o Problema Mente-Tecnologia

1.3 Biotecnologia, bioética e governança.

Este módulo aborda a evolução história da biotecnologia, no sentido de proporcionar aos estudantes uma discussão crítica sobre alguns temas cadentes na sociedade contemporânea, como a ética da investigação científica em biotecnologia e em engenharia genética, as patentes de genes, o melhoramento humano, e a procriação clinicamente assistida.

1.4 Estudo de casos da Engenharia portuguesa Os tópicos deste módulo variam de ano para ano, devendo ser apresentados no programa anual.

1.5 Introdução aos Métodos de ensino e avaliação: Três curtos ensaios (1000palavras cada).

1.6 O que é o plágio e como o evitar (introdução do programa anti-plágio usado  na FCUL -Urkund)

1.7 Introdução: Como citar? https://ciencias.ulisboa.pt/sites/default/files/fcul/unidservico/bib/Guia_Citacoes-v2.pdf

1.7.1 Citação numérica

1.7.2 Citação em nota

1.7.3 Citação entre parênteses com autor-data-localização

2. O que é a tecnologia?

Perguntas: 2.1 Porque é que pensar em tecnologia não é um tema óbvio? 2.2 Dê um exemplo de uma tecnologia que tem suscitado discussões filosóficas. 2.3 O que é a (historia e) filosofia da tecnologia?

Caso Exemplo 1: Claude Robert Eatherly (2 de Outubro de 1918 - 1 de Julho de 1978) foi oficial das Forças Aéreas do Exército dos EUA durante a Segunda Guerra Mundial, e piloto de um avião de reconhecimento meteorológico Straight Flush que apoiou a queda da bomba atómica em Hiroshima, Japão, a 6 de Agosto de 1945.Na correspondência do filosofo da tecnologia Günther Anders com Eatherly ao longo de cerca de 71 cartas, Anders e Eatherly debateram-se com o problema de assumir responsabilidade moral humana para com o uso da tecnologia, numa altura em que a ética era a última coisa que a maioria das pessoas parecia querer discutir.

Conclusão: As questões da filosofia da tecnologia  (éticas, societais, culturais e da humanidade) em relação aos exemplo da  bomba atómica  e do piloto de Horoshima nãos e esgotam em meras questões tecnológicas. 

Caso Exemplo da História da Filosofia da Tecnologia: O Míto de Toth (Platão) e a responsábilidade societal da tecnologia ("Technology assessement" avant le lettre) vs. o optimísmo tecnológico dos fazedores/inventores de novas tecnologias, separação de poderes de invenção tecnológico e avaliação societal da tecnologia

Leitura/Exegese/Interpretação de fontes: a) Coeckelberg, M.(2020) Introduction to Philosophy of technology, Capítulo 1

b) Hansson, (2012)."De-Marginalizing Philosophy of Technology". Techné: Research in Philosophy and Technology 16:2 (Spring 2012): 89–93

c) 4 revoluções (decentrações) tecnológias do ser humano? (Floridi (2014) The 4th revolution)

d)Tecnica corporal (Aristoteles, Mauss)

e) Techné e episteme

f) Techné como imitação (mimesis) da natureza: Distinção:  natura naturans --- natura naturata

Hans Blumenberg (1957) Imitação da natureza. Em direcção a uma prehistória da ideia de um ser técnico-creativo.

g) Ernst Cassirer  em ‘Form and Technology’(2012 [1930]) reconhece a importância da técnica/tecnologia na cultura contemporânea. O papel da filosofia da tecnologia é,entender a natureza da tecnica é olhar para ela ‚como ela é‘ (15), para investigar  as ‘“condições de possibilidade” da eficácia tecnologica e da formação da técnica’ (18).

f) Temas e problemas da tecnologia, autonomia e automatização: Crítica de algoritmos predatórios não supervisionados abaixo do limiar humano tomada de decisão e propagação automática de por exemplo notícias falsas ( notícias falsas) 

g) Big Data e a ética da IA e a sua governação (o problema do data voluntarismo)

f) Recomendação da UNESCO acerca da Ética da IA 

g) ética da tecnologia como "enableing tecnology"?