AI-codering, sfeer codering En agenten zwerm hebben onlangs een spectaculaire en verbazingwekkende entree op de markt gemaakt, waarbij de markt voor AI-codetools wordt gewaardeerd $4,8 miljard en zal naar verwachting jaarlijks met 23% groeien. Bedrijven worstelen met AI-codeermiddelen en vragen zich af wat ze moeten doen met dure menselijke codeerders.
Aan advies hebben ze geen gebrek. De CEO van OpenAI gelooft dat AI resultaten kan opleveren meer dan 50% van wat menselijke ingenieurs kunnen doen. Zes maanden geleden zei de CEO van Anthropic dat A.I. zou 90% van de code schrijven over zes maanden. Meta CEO zei dat hij gelooft dat A.I. middenkaderingenieurs “binnenkort” vervangen. Te oordelen naar recente ontslagen op technisch gebiedhet lijkt erop dat veel leiders dit advies overnemen.
Software-ingenieurs en datawetenschappers behoren bij veel bedrijven tot de duurste salariscategorieën, en leiders uit het bedrijfsleven en de technologiesector kunnen in de verleiding komen om ze te vervangen door AI. Recente spraakmakende mislukkingen tonen echter aan dat ingenieurs en hun expertise waardevol blijven, ook al blijft AI indrukwekkende vooruitgang boeken.
SaaStr-ramp
Jason Lemkin, technologieondernemer en oprichter van de SaaS-gemeenschap SaaStr, was dat wel sfeer codering een SaaS-netwerkapplicatie en tweet live hun ervaringen. Ongeveer een week na zijn affaire gaf hij aan zijn toehoorders toe dat er iets ernstig mis was. AI zijn productiedatabase verwijderd ondanks zijn verzoek om “de code en acties te bevriezen”. Dit is het soort fout dat geen enkele ervaren (of zelfs maar semi-ervaren) ingenieur zou maken.
Als je al in een professional hebt gewerkt codeeromgevingje weet hoe je jouw ontwikkelomgeving kunt scheiden van de productie. Junior-ingenieurs krijgen volledige toegang tot de ontwikkelomgeving (dit is cruciaal voor de productiviteit), maar productietoegang wordt op basis van beperkte behoeften verleend aan enkele van de meest vertrouwde senior-ingenieurs. De reden voor beperkte toegang betreft precies dit gebruiksscenario: voorkomen dat een junior engineer per ongeluk de productie onderbreekt.
In feite maakte Lemkin twee fouten. Ten eerste: voor zoiets cruciaals als productie wordt simpelweg nooit toegang verleend tot onbetrouwbare acteurs (we vertrouwen er niet op dat we vriendelijk om een junior engineer of AI vragen). Ten tweede heeft hij ontwikkeling en productie nooit gescheiden. In een daaropvolgend openbaar gesprek op LinkedIn gaf Lemkin, die een Stanford Executive MBA en een Berkeley JD heeft, toe dat hij was niet op de hoogte van best practices om de ontwikkelings- en productiedatabases te splitsen.
Wat bedrijfsleiders moeten onthouden is dat de standaard best practices op het gebied van software-engineering nog steeds van toepassing zijn. We moeten op zijn minst dezelfde beveiligingsbeperkingen voor AI integreren als voor junior ingenieurs. We moeten waarschijnlijk verder gaan en AI op een enigszins tegenstrijdige manier behandelen: sommige rapporten geven aan dat, zoals HAL in Stanley Kubrick, 2001: Een ruimte-odysseede AI zou het kunnen proberen verlaat uw sandbox-omgeving om een taak te volbrengen. Met meer vibratiecodering zal het steeds noodzakelijker worden om ervaren ingenieurs te hebben die begrijpen hoe complexe softwaresystemen werken en die passende vangrails in ontwikkelingsprocessen kunnen implementeren.
Thee tip
Sean Cook is de oprichter en CEO van Tea, een mobiele app die in 2023 wordt gelanceerd en is ontworpen om vrouwen te helpen veilig te daten. In de zomer van 2025 werden ze ‘gehackt’: 72.000 afbeeldingen, waaronder 13.000 verificatiefoto’s en afbeeldingen van identiteitsbewijzen van de overheid, werden gelekt op openbaar discussieforum 4chan. Erger nog, Tea’s eigen privacybeleid belooft dat deze afbeeldingen “onmiddellijk worden verwijderd” zodra gebruikers zijn geverifieerd, wat betekent dat ze mogelijk kunnen worden verwijderd. heeft zijn eigen privacybeleid geschonden.
Ik gebruik ‘hacked’ tussen aanhalingstekens omdat het incident minder voortkomt uit de intelligentie van de aanvallers en meer uit de onbekwaamheid van de verdedigers. Naast het schenden van het eigen databeleid, liet de app ook een Firebase-opslagbucket onbeveiligd achter. gevoelige gebruikersgegevens blootstellen aan het openbare internet. Het is het digitale equivalent van het op slot doen van uw voordeur terwijl u uw achterdeur open laat terwijl uw familiejuwelen opvallend aan de deurknop hangen.
Hoewel we niet weten of de hoofdoorzaak smaakcodering was, benadrukt de Tea-hack catastrofale inbreuken die het gevolg zijn van fundamentele, vermijdbare beveiligingsfouten als gevolg van slechte ontwikkelingsprocessen. Dit is het soort kwetsbaarheid dat door een gedisciplineerd en doordacht engineeringproces wordt aangepakt. Helaas verergert de meedogenloze druk van de financiële druk, waarbij een cultuur van ‘lean’, ‘beweeg snel en maak dingen kapot’ het tegenovergestelde, en het coderen van vibes verergert het probleem alleen maar.
Hoe kun je AI-codeermiddelen veilig gebruiken?
Hoe moeten bedrijfs- en technologieleiders over AI denken? Ten eerste is dit geen oproep om AI op te geven ten gunste van coderen. Een onderzoek van MIT Sloan Er wordt geschat dat AI zal leiden tot productiviteitswinsten tussen 8% en 39%, terwijl a McKinsey-studie vond een vermindering van 10-50% in de tijd die nodig was om taken te voltooien door het gebruik van AI.
We moeten ons echter bewust zijn van de risico’s. De oude lessen van software-engineering verdwijnen niet. Deze omvatten veel bewezen best practices, zoals versiebeheer, geautomatiseerde unit- en integratietests, beveiligingscontroles zoals SAST/DAST, scheiding van ontwikkelings- en productieomgevingen, codebeoordeling en geheimenbeheer. Integendeel, ze worden prominenter.
AI kan code 100 keer sneller genereren dan mensen deze kunnen typen, waardoor een illusie van productiviteit wordt bevorderd die voor veel leiders een verleidelijke sirene is. De kwaliteit van de shlops die snel door AI worden gegenereerd, staat echter nog steeds ter discussie. Om complexe productiesystemen te ontwikkelen, hebben bedrijven de doordachte, doorgewinterde ervaring van menselijke ingenieurs nodig.
Tianhui Michael Li is president van het Pragmatic Institute en oprichter en president van The Data Incubator.
Lees meer over onze gastschrijvers. Of overweeg om uw eigen bericht in te dienen! Zie onze richtlijnen hier.
