Stack Overflow-Moderatoren streiken, um zu verhindern, dass schädliche KI-Inhalte die Website überfluten

Ehrenamtliche Moderatoren bei Stack Overflow, einem beliebten Forum für Softwareentwickler, in dem sie Fragen stellen und beantworten können und das von Stack Exchange betrieben wird, haben einen Generalstreik gegen die neue KI-Inhaltsrichtlinie des Unternehmens ausgerufen, die besagt, dass alle GPT-generierten Inhalte jetzt auf der Website erlaubt sind. und Sperrungen wegen KI-Inhalten müssen sofort beendet werden. Die Moderatoren sagen, sie seien besorgt über den Schaden, den dies angesichts der häufigen Ungenauigkeiten der Chatbot-Informationen anrichten könnte.

„Stack Overflow, Inc. hat ein nahezu vollständiges Verbot der Moderation von KI-generierten Inhalten erlassen … und damit stillschweigend die Verbreitung falscher Informationen („Halluzinationen“) und uneingeschränktes Plagiat im Stack Exchange-Netzwerk zugelassen“, heißt es in einem offenen Brief der Moderatoren , die alle von der Gemeinschaft gewählte Freiwillige sind.

„Dies stellt eine große Bedrohung für die Integrität und Vertrauenswürdigkeit der Plattform und ihrer Inhalte dar. Mit sofortiger Wirkung verhängen wir einen allgemeinen Moderationsstreik gegen Stack Overflow und das Stack Exchange-Netzwerk, um gegen diese und andere aktuelle und bevorstehende Änderungen der Richtlinien und Richtlinien zu protestieren.“ die Plattform, die uns von Stack Overflow, Inc. aufgezwungen wird.“

Die neue Richtlinie, die Ende Mai in Kraft trat, verlangt von Moderatoren, die Moderation von KI-generierten Inhalten einzustellen, nur weil diese KI-generiert sind. Ohne eine ordnungsgemäße Moderation von KI-generierten Inhalten werden die Qualität und Genauigkeit der Informationen von Stack Exchange jedoch schnell abnehmen, sagen Moderatoren.

„KI-Chatbots sind wie Papageien“, heißt es in einem Beitrag von Moderatoren auf Meta Stack Exchange, in dem sie ihre Forderungen näher erläutern. „ChatGPT zum Beispiel versteht die Antworten, die es Ihnen gibt, nicht; es verknüpft einfach eine bestimmte Eingabeaufforderung mit Informationen, auf die es Zugriff hat, und gibt plausibel klingende Sätze wieder hervor. Es hat keine Möglichkeit zu überprüfen, ob die Antworten, die es Ihnen gibt, korrekt sind.“ . ChatGPT ist kein Autor, kein Programmierer, kein Wissenschaftler, kein Physiker oder irgendein anderer Experte, von dem unser Netzwerk von Websites abhängig ist, wenn es um hochwertige Inhalte geht. Wenn wir dazu aufgefordert werden, reiht es einfach Wörter aneinander, die auf den Informationen basieren, die es trainiert hat mit. Es versteht nicht, was es sagt.“

Dadurch, so heißt es weiter, können Benutzer die Antworten von ChatGPT wiedergeben, ohne sie selbst zu verstehen, was dem eigentlichen Zweck der Website zuwiderläuft: „Eine Sammlung hochwertiger Frage- und Antwortinhalte zu sein.“

Ein großes Problem ist der Inhalt der neuen KI-Richtlinie. Das andere, sagen Moderatoren, ist die mangelnde Transparenz, die es umgibt. Sie schreiben in dem Beitrag, dass die Website im Dezember eine vorübergehende Richtlinie erlassen habe, die jegliche Nutzung von ChatGPT aufgrund seiner „allgemeinen Ungenauigkeit“ und Verstößen gegen die Referenzierungsanforderungen der Website verbiete. Diese Richtlinie wurde sowohl von freiwilligen Moderatoren als auch von Stack Exchange-Mitarbeitern unterstützt und führte dazu, dass viele Beiträge entfernt und Benutzer gesperrt wurden.

Am 29. Mai schreiben die Moderatoren jedoch, dass im privaten Rahmen eine neue Richtlinie umgesetzt wurde, die „die sofortige Einstellung der Sperrung von KI-generierten Inhalten und die Einstellung der Moderation von KI-generierten Inhalten allein auf dieser Grundlage“ vorschreibt. Am folgenden Tag wurde eine etwas andere Version der Richtlinie der Öffentlichkeit zugänglich gemacht, ohne dass die Formulierung die Moderatoren dazu verpflichtete, die Einschränkung sämtlicher KI-Inhalte einzustellen.

„Die neue Richtlinie hat den etablierten Community-Konsens und die frühere CM-Unterstützung außer Kraft gesetzt, wurde mit keinem Community-Mitglied besprochen, wurde den Moderatoren und dann noch irreführender in der Öffentlichkeit irreführend präsentiert und basiert auf unbegründeten Behauptungen, die aus nicht überprüften und nicht überprüfbaren Datenanalysen abgeleitet wurden“, sagte der Meta Stack Exchange-Beitrag lautet.

Weiter heißt es: „Die Tatsache, dass Sie einen Punkt im privaten und einen anderen in der Öffentlichkeit angesprochen haben, die so deutlich voneinander abweichen, hat die Moderatoren in eine unmögliche Situation gebracht und sie zur Zielscheibe für den Vorwurf gemacht, sie seien unvernünftig und übertrieben die Wirkung neue Richtlinien."

Moderatoren fordern auch nicht-KI-bezogene Verbesserungen der Seite. „Bei dem Streik geht es zum großen Teil auch um ein kürzlich von Stack Exchange, Inc. an den Tag gelegtes Verhaltensmuster“, heißt es in dem Beitrag. „Das Unternehmen hat wieder einmal die Bedürfnisse und den etablierten Konsens seiner Community ignoriert und sich stattdessen auf Kosten seiner eigenen Community Manager auf geschäftliche Schwerpunkte konzentriert.“ Als Beispiel nennen sie die Chat-Funktion, die ihrer Meinung nach völlig veraltet ist, aber seit Jahren ignoriert wird.

Der Streik ist die erste große Aktion gegen die Überschwemmung von Online-Seiten mit ChatGPT-Inhalten. Aber Moderatoren in anderen Foren sind ähnlich besorgt. Moderatoren auf Reddit haben sich auf eine Reihe von KI-generierten Beiträgen mit ungenauen Informationen gefasst gemacht. Ein Reddit-Moderator, der anonym bleiben wollte, sagte gegenüber Motherboard, dass das Problem mit dem ChatGPT-basierten Bot von Reddit „ziemlich schlimm“ sei und dass mehrere hundert Konten bereits manuell von der Website entfernt worden seien, da die automatisierten Systeme von Reddit mit KI-erstellten Inhalten zu kämpfen hätten.

Die Moderatoren wollen, dass die KI-Richtlinie zurückgezogen und überarbeitet wird, dass die Inkonsistenz zwischen der öffentlichen und der privaten Version der Richtlinie behoben und entschuldigt wird und dass das Unternehmen „aufhört, unehrlich zu sein“, was seine Beziehung zur Community angeht.

Philippe Beaudette, Vice President of Community bei Stack Overflow, sagte gegenüber Motherboard in einer Erklärung: „Eine kleine Anzahl von Moderatoren (11 %) im gesamten Stack Overflow-Netzwerk hat aufgehört, sich an mehreren Aktivitäten zu beteiligen, einschließlich der Moderation von Inhalten. Der Hauptgrund für diese Aktion ist Unzufriedenheit mit unserer Position zu Erkennungstools in Bezug auf KI-generierte Inhalte. Stack Overflow hat eine Analyse durchgeführt und die ChatGPT-Erkennungstools, die Moderatoren zuvor verwendet haben, weisen eine alarmierend hohe Rate an Fehlalarmen auf.“ Die Moderatoren schreiben in ihrem Beitrag, dass ihnen die Probleme mit dem Erkennungstool bekannt seien.

„Wir stehen zu unserer Entscheidung, von den Moderatoren zu verlangen, dass sie die bisher verwendeten Tools nicht mehr verwenden“, fuhr Beaudette fort. „Wir sind zuversichtlich, dass wir einen Weg nach vorne finden werden. Wir bedauern, dass die Maßnahmen so weit fortgeschritten sind, und das Community-Management-Team bewertet die aktuelle Situation, während wir hart daran arbeiten, die Dinge kurzfristig zu stabilisieren.“

Mit Ihrer Anmeldung stimmen Sie den Nutzungsbedingungen und der Datenschutzrichtlinie zu und stimmen dem Erhalt elektronischer Mitteilungen von der Vice Media Group zu, die Marketingaktionen, Werbung und gesponserte Inhalte umfassen können.