Op 16 juli 1945, toen ’s werelds eerste kernexplosie de vlakten van New Mexico deed schudden, J. Robert Oppenheimerdie het project leidde, geciteerd Bhagavad Gita: “Nu ben ik de Dood geworden, de vernietiger van de wereld.” En dat had hij inderdaad. De wereld was nooit meer hetzelfde nadat kernenergie werkelijkheid werd.
Tegenwoordig hebben we echter het respect voor de kracht van de technologie verloren. In plaats van doelbewust en behoedzaam te werk te gaan, haasten we ons naar voren. In zijn “Techno-optimistisch manifest“, technologie-investeerder Marc Andreessen impliceerde het AI Regulatie was een vorm van moord. Minister van Defensie Pete Hegseth antropisch gestraft omdat het probeerde grenzen te stellen aan zijn eigen technologie.
Het is duidelijk dat we hier al eerder zijn geweest en hebben laten zien dat we de uitdaging aankunnen. We hebben de nucleaire dreiging onder controle gehouden en nuttige grenzen gesteld aan het gebruik van genomica, terwijl we de technologie toch de kans gaven zich te ontwikkelen. Maar als we geen acht hebben geslagen op de waarschuwingen, dan Dat hebben we gedaan met financiële engineeringwij hebben een hoge prijs betaald. Die keuze tussen roekeloosheid en voorzichtigheid is wat we nu voor ons hebben.
Hoe we de nucleaire geest terug in de fles stoppen
De geschiedenis van kernwapens begon niet met Oppenheimer – bij lange na niet. Sterker nog, als we het zouden toeschrijven Manhattan-project voor één persoon zou het waarschijnlijk een Hongaarse geïmmigreerde natuurkundige zijn Leo Szilarddie een van de eersten was die zich de mogelijkheid van een nucleaire kettingreactie voorstelde.
In 1939, na gehoord te hebben over de ontdekking van kernsplijting in Duitsland, besloot Szilard samen met andere Hongaarse emigranten Eugène Wigner– besloot dat de autoriteiten gewaarschuwd moesten worden. Szilard zag schreef een brief waarschuwing over de mogelijkheid van een atoombom. De brief werd uiteindelijk ondertekend door Albert Einstein en gestuurd naar president Franklin D. Roosevelt. Dat heeft er toe geleid Manhattan-project en de atoombom.
Maar na de explosies in Hiroshima en Nagasaki wilden veel wetenschappers die aan de ontwikkeling van de bom werkten het publiek voorlichten over de gevaren ervan. In 1955, de filosoof Bertrand Russell een manifest uitgegeven, ondertekend door een aantal wetenschappelijke grootheden. Dit leidde tot een reeks conferenties in Pugwash, Nova Scotiadie werd bijeengeroepen om verschillende benaderingen te bespreken om de wereld te beschermen tegen massavernietigingswapens.
Deze inspanningen omvatten veel meer dan praten. Ze hielpen de non-proliferatieagenda vorm te geven en leidden tot concrete resultaten, zoals Verdrag inzake een gedeeltelijk kernstopverbod. Deze bijdragen waren zo belangrijk dat de organisatoren van de Pugwash-conferenties in 1995 de Nobelprijs voor de Vrede kregen. doorgaan zelfs vandaag.
Grenzen stellen aan wat we doen met de levenscode
Terwijl het atoomtijdperk met een knal begon, begon het genetische tijdperk met een simpele knal artikel in het wetenschappelijk tijdschrift Natuurgeschreven door twee relatief onbekende wetenschappers James Watson En Franciscus Krik. Voor het ongetrainde oog leek het een loopband met de structuur van een onduidelijk molecuul. Toch logenstraft de laatste zin een wereldschokkend inzicht.
“Het is onze aandacht niet ontgaan dat de specifieke koppeling die we hebben gepostuleerd onmiddellijk een mogelijk kopieermechanisme voor het genetische materiaal suggereert.”
Het was een van die zeldzame keerpunten waarop uit één enkele gebeurtenis een geheel nieuwe tak van de wetenschap ontstond. Het veld ontwikkelde zich snel en ongeveer twintig jaar later belde een briljante onderzoeker Paul Berg ontdekte dat je dat kon het verweven van menselijk DNA met dat van andere levende wezensom nieuw genetisch materiaal te creëren dat niet in de natuur voorkomt. Net als Oppenheimer begreep Berg dat de mensheid door zijn werk op een afgrond stond, en dat het niet helemaal duidelijk was waar de rand lag.
Hij een conferentie georganiseerd op Asilomar State Beach in Californië om richtlijnen vast te stellen. Belangrijk is dat deelname niet beperkt bleef tot wetenschappers. Er was een breed scala aan belanghebbenden uitgenodigd, waaronder ambtenaren, leden van de media en ethiekspecialisten. Het resultaat, nu bekend als “Bergbrief” riep op tot een moratorium op de meest risicovolle experimenten totdat de gevaren beter werden begrepen. Deze normen werden tientallen jaren gerespecteerd.
Vandaag reviewen we nog een revolutie in genomica en synthetische biologie. Nieuwe technologieën, zoals CRISPR En mRNA-techniekenheeft ongelooflijke mogelijkheden geschapen, maar ook ernstige gevaren. Maar ook hier kunnen pioniers in het veld eronder lijden Jennifer Doudna loopt voorop bij het bedenken van verstandige autobeschermers en het verantwoord gebruiken van de technologie.
Carols reis
In 2019 creëerde een Facebook-onderzoeker een fictieve rekening voor “Carol Smith”, een politiek conservatieve moeder uit Wilmington, North Carolina. Carol hield toen van een paar reguliere, maar conservatief georiënteerde sites. Binnen enkele dagen stuurde het algoritme van Facebook haar naar een konijnenhol vol QAnon-samenzweringen en blanke supremacistische inhoud.
Volgens klachten van klokkenluiders werden senior executives bij Facebook, waaronder Mark Zuckerberg, geïnformeerd dat hun platform zijn gebruikers radicaliseerde, maar winst en groei verkozen boven veiligheid. Dit was geen geïsoleerd incident, maar onderdeel van een vaststaand patroon van de manier waarop Facebook zaken doet.
In 2016 Nobelprijswinnaar Maria Ressa waarschuwde bedrijfsleiders ervoor Facebook werd uitgebuit van botnetwerken om verkiezingen te beïnvloeden. De De Wall Street Journal een aantal rapporten gepubliceerd laat zien dat het bedrijf wist dat zijn product schadelijk was voor zijn gebruikers, met name tienermeisjes, maar geen actie ondernam om de schade te beperken. Onlangs bevestigde een rechtbank de aanklacht en vond het bedrijf aansprakelijk voor schade.
Het contrast tussen Silicon Valley en andere technologische doorbraken is verrassend. Het waren tenslotte de kernwetenschappers die ons waarschuwden voor de gevaren van kernenergie, net zoals het de biologen waren die alarm sloegen over recombinant DNA. We hebben keer op keer bewezen dat technologie kan worden ingeperkt en de gevaren ervan kunnen worden beperkt.
Maar nu er enorme winsten op het spel staan, hebben de leidinggevenden van Silicon Valley laten zien dat ze niet bereid zijn hetzelfde te doen.
Het zijn de instellingen, stommeling
In 1945, Vannevar Bush publiceerde een lang essay in Atlantische Oceaan gerechtigd “Zoals we misschien denken”, die een ‘memex’ voor ogen had, een machine die opvallend veel op het hedendaagse internet leek. Hij schreef:
“Denk eens aan een toekomstig apparaat … waarin een persoon al zijn boeken, documenten en communicatie opslaat, en dat zo gemechaniseerd is dat het met buitengewone snelheid en flexibiliteit kan worden geraadpleegd. Het is een uitgebreide, intieme aanvulling op zijn geheugen.”
Maar in zijn visie op de toekomst zag Bush zowel kansen als gevaren. Hij voorspelde veel van waar we het internet tegenwoordig voor gebruiken, waaronder artsen die symptomen van obscure zaken kunnen opsporen en advocaten die snel relevante jurisprudentie kunnen opvragen. Toch voorzag hij ook veel van waar we mee worstelen, zoals een overvloed aan informatie en het gebruik van technologie voor oorlog.
Bush was destijds een figuur vergelijkbaar met Elon Musk, maar iets prominenter. Als ingenieur van het hoogste niveau vond hij een protocomputer uit aan het MIT. Hij hielp ook bij de oprichting van het bedrijf Raytheonbegeleid Wetenschapsprogramma’s van de Amerikaanse overheid tijdens de Tweede Wereldoorlog, inclusief de ontwikkeling van de atoombom, radar en penicilline.
Toch was hij waarschijnlijk meer dan wat dan ook een meester in het ontwerpen van instituties. Toen de oorlog ten einde liep, vroeg president Roosevelt hem een rapport uit te brengen over hoe de wetenschappelijke bekwaamheid van Amerika voortgezet kon worden. Het rapport, “Wetenschap, de eindeloze grens,”, dat in 1945 aan president Harry S. Truman werd overhandigd, vormde de basisarchitectuur voor programma’s zoals Nationale WetenschapsstichtingDat zou de Verenigde Staten in een technologische supermacht veranderen.
Om James Carville te parafraseren: Het zijn de instellingen, stommeling. Als we de belofte van kunstmatige intelligentie en andere baanbrekende gebieden zoals kwantumcomputers en synthetische biologie willen grijpen en tegelijkertijd het gevaar willen minimaliseren, hebben we structuren nodig om onze collectieve wil voor het algemeen belang te organiseren. Anders zullen we uiteindelijk onze wil onderwerpen aan technologieën die we niet kunnen controleren.
De keuzes die zijn gemaakt door degenen die ons voorgingen, hebben de wereld waarin we vandaag leven gevormd. De keuzes die we nu maken, zullen vorm geven aan de wereld die we achterlaten.
