Reddit scheint sich hinter den Kulissen zu bemühen, die Auswirkungen der Migration zu begrenzen. Schadensbegrenzung: ChatGPT-Bots spammen pro-admin, astroturfed Kommentare - eviltoast
  • Quetzacoatl@feddit.de
    link
    fedilink
    Deutsch
    arrow-up
    11
    ·
    edit-2
    1 year ago

    Hinweis: Nur, weil die gerade im Umlauf befindlichen KIs langwierig darauf getrimmt wurden, so zu antworten. Ihnen diese abwartend-“neutrale” Formulierung beizubringen, so dass sie zumindest darauf hinweisen, dass sie eigentlich nur statistisch ermittelten Quatsch ablassen auf den man sich nicht verlassen sollte, hat viel Arbeit gebraucht.

    Lässt man den Schritt weg (vgl. ChatGPT in der Anfangsphase), klingen solche KIs absolut ununterscheidbar wie ein normaler Mensch, weil ihr Korpus ja eben aus genau solchen Unterhaltungen besteht. Das ist sogar die ganze Funktionsweise: So stark nach einem Menschen klingen, dass dabei quasi als Nebenprodukt (manchmal) ein sinnvoller Satz rauskommt.

    Die derzeitige leichte Erkennbarkeit kann mit einem einfachen Update von heute auf morgen dahin sein, auf die muss man sich gar nichts einbilden bzw. kann man sich darauf überhaupt nicht verlassen.

    • Quik@infosec.pub
      link
      fedilink
      Deutsch
      arrow-up
      1
      ·
      1 year ago

      Nach diesem Kommentar habe ich gesucht, danke. Gefühlt verharmlost es die potentientelle Mächtigkeit aktueller und zukünftiger neuronaler Netze erheblich, wenn sich alle KIs immer Mühe geben, „wie eine KI“ zu klingen.