AI-experts, technologen en zakelijke leiders roepen op tot een pauze in de ontwikkeling van kunstmatige intelligentie (AI) systemen die krachtiger zijn dan GPT-4. Dit verzoek werd gedaan in een open brief van de Future of Life Institute, een non-profit organisatie die zich inzet voor het beperken van risico's van transformatorische technologie. Onder de ondertekenaars bevinden zich onder andere Apple mede-oprichter Steve Wozniak, SpaceX, Tesla en Twitter CEO Elon Musk, de CEO van Stability AI Emad Mostaque, de directeur van het Center for Humane Technology Tristan Harris en Yoshua Bengio, oprichter van het AI-onderzoeksinstituut Mila.
In de brief wordt gesteld dat geavanceerde AI een diepgaande verandering kan betekenen in de geschiedenis van het leven op aarde. Daarom moeten we zorgen voor voldoende zorg en middelen om hiermee om te gaan. Helaas gebeurt dit momenteel niet, terwijl de AI-laboratoria zich de afgelopen maanden hebben gestort in een uit de hand gelopen race om steeds krachtigere digitale systemen te ontwikkelen en in te zetten, waarvan niemand - zelfs de makers ervan - kan begrijpen, voorspellen of betrouwbaar controleren.
Bedrijven als OpenAI, Microsoft en Google gaan volle vaart vooruit met hun generatieve AI-modellen. Nieuwe ontwikkelingen en productreleases worden bijna dagelijks aangekondigd vanuit de ambitie om de AI-markt te domineren. Maar de brief geeft aan dat dit allemaal te snel gaat, zonder dat ethische, regelgevende en veiligheidskwesties serieus worden overwogen.
De brief roept op tot een zes maanden durende pauze in AI-experimenten die alleen ontwikkeld moeten worden als we ervan overtuigd zijn dat de effecten positief zullen zijn en de risico's beheersbaar zijn. Het is aanbevolen dat AI-laboratoria in deze tijd gezamenlijk veiligheidsprotocollen ontwikkelen die door derden kunnen worden ge-audit. Als zij niet stoppen, zouden overheden moeten ingrijpen en een moratorium moeten opleggen.
Tegelijkertijd roept de petitie beleidsmakers op om samen te werken met regelgevende instanties die zich richten op het toezicht en de monitoring van AI-systemen. Dit moet onder andere leiden tot het onderscheiden van echte en gegenereerde content, audits en certificeringen voor AI-modellen, wettelijke aansprakelijkheid voor "AI-veroorzaakte schade", publieke financiering voor AI-onderzoek en instellingen "om de dramatische economische en politieke verstoringen (vooral voor de democratie) die AI zal veroorzaken, op te vangen."
De oproep om AI-labs tijdelijk te stoppen met het trainen van systemen die krachtiger zijn dan GPT-4, heeft ook implicaties voor de muziekindustrie. Hoewel AI in de muziekindustrie nog in de beginfase zit, zijn er al enkele ontwikkelingen gaande die de vraag naar regulering van AI-systemen rechtvaardigen.
Zo is er bijvoorbeeld Amper Music, een AI-systeem dat muziek kan genereren op basis van enkele variabelen, zoals toonsoort en tempo. Dit systeem wordt al gebruikt door enkele populaire artiesten om achtergrondmuziek te creëren voor hun video's. Hoewel deze toepassingen van AI in de muziekwereld nog relatief onschuldig lijken, moet er toch worden nagedacht over de ethische en regulerende aspecten van deze technologie.
Een belangrijk punt dat in de open brief wordt aangehaald, is het feit dat AI-systemen steeds geavanceerder worden en dat hun effecten op lange termijn niet volledig kunnen worden voorspeld. Dit is vooral zorgwekkend in een industrie zoals de muziekwereld, waar trends en stijlen voortdurend evolueren. Het is niet ondenkbaar dat AI-systemen, als ze ongereguleerd blijven, de creativiteit en diversiteit van de muziekwereld zullen aantasten.
Daarom is het van cruciaal belang dat de muziekindustrie een actieve rol speelt in het debat over de regulering van AI. Artiesten en professionals in de muziekindustrie moeten samenwerken met regelgevende instanties en AI-experts om ervoor te zorgen dat deze technologie op een verantwoorde manier wordt ontwikkeld en toegepast.
Hoewel het belangrijk is om de ontwikkeling van AI niet volledig te stoppen, is het tijdelijk pauzeren van de ontwikkeling ervan, zoals voorgesteld in de open brief, een verstandige stap. Dit geeft ons de tijd om de veiligheid en ethische implicaties van AI-systemen te evalueren en ervoor te zorgen dat deze technologie ons ten goede komt.
In de muziekwereld kunnen we deze tijd gebruiken om na te denken over hoe we AI-systemen kunnen gebruiken om onze creativiteit te versterken en ons te helpen nieuwe muzikale paden te verkennen, terwijl we er tegelijkertijd voor zorgen dat de menselijke creativiteit en diversiteit van de muziekwereld behouden blijft.
Al met al is het belangrijk om de ontwikkeling van AI in de muziekwereld op een verantwoorde manier te reguleren en ervoor te zorgen dat deze technologie ons ten goede komt. We moeten erop toezien dat de ontwikkeling van AI niet ten koste gaat van onze menselijke creativiteit en diversiteit, maar deze juist versterkt.
Commentaires