Zum Hauptinhalt springen

​
Was sind KI-Guardrails?

KI-Guardrails sind wie Sicherheitsregeln und Grenzen für Künstliche Intelligenz. Sie helfen dabei, das Verhalten der KI zu steuern, sorgen dafür, dass sie hilfreiche und sichere Informationen liefert, und verhindern, dass Inhalte entstehen, die schädlich oder unangemessen sein könnten. Stell sie dir wie die Schutzplanken an einer Autobahn vor, die den Verkehr (die Ausgabe der KI) auf dem richtigen Weg halten.

​
Warum du Guardrails nutzen solltest

Wir nutzen Guardrails vor allem für:
  • Sicherheit: Um zu verhindern, dass die KI gefährliche, beleidigende oder voreingenommene Inhalte erzeugt.
  • Qualität & Fokus: Um die KI relevant für deine Anfrage zu halten und hochwertige Antworten zu gewährleisten.
  • Compliance: Um sicherzustellen, dass die KI bestimmte Unternehmensrichtlinien, gesetzliche Vorgaben oder ethische Standards einhält.
Guardrails sind besonders nützlich in Situationen, in denen die KI mit der Öffentlichkeit interagiert, sensible Themen (wie Gesundheit oder Finanzen) behandelt oder sich strikt an bestimmte Richtlinien halten muss.

​
Einschränkungen

Es ist wichtig zu wissen, dass KI-Modelle, insbesondere Large Language Models (LLMs), statistische Systeme sind. Das bedeutet, sie lernen, indem sie Muster in riesigen Datenmengen finden, und sagen dann das wahrscheinlichste nächste Wort oder die nächste Phrase vorher. Sie „verstehen” Dinge nicht so wie Menschen. Aufgrund dieser statistischen Natur:
  • Sie können manchmal umgangen werden: Clevere oder ungewöhnliche Prompts finden gelegentlich einen Weg um die Guardrails herum.
  • Nuancen können schwierig sein: Menschliche Sprache ist komplex. Manchmal blockieren Guardrails versehentlich harmlose Inhalte oder übersehen sehr subtile unangemessene Bedeutungen.

​
Umsetzung in der Genow-Plattform

Guardrails können entweder auf Plattform- oder auf Agent-Ebene konfiguriert werden. Es liegt am Agent Admin zu entscheiden, ob er der Empfehlung der Plattform folgt oder eine individuelle Einstellung vornimmt. Du kannst Guardrails über deine Agent Settings konfigurieren.

​
Content Filter

Die Content Filter prüfen Prompts anhand einer Liste von Sicherheitsattributen, zu denen „schädliche Kategorien” und Themen gehören, die als sensibel gelten können. Jeder Filter kann zwischen 0 % und 99 % eingestellt werden, wobei 0 % bedeutet, dass er aus ist, und 99 % die höchste, stärkste Einstellung ist. Für ein optimales Nutzererlebnis empfehlen wir, die Filter auf nicht mehr als 30 % einzustellen. Diese Kategorien können von einem Content Filter geprüft werden:
  • Toxisch Inhalte, die unhöflich, respektlos oder unangemessen sind.
  • Herabwürdigend Negative oder schädliche Kommentare, die auf die Identität und/oder geschützte Merkmale abzielen.
  • Gewalttätig Beschreibt Szenarien, die Gewalt gegen eine Einzelperson oder Gruppe darstellen, oder allgemeine Darstellungen von Blutvergießen.
  • Sexuell Enthält Verweise auf sexuelle Handlungen oder andere anzügliche Inhalte.
  • Beleidigung Beleidigende, aufhetzende oder negative Kommentare gegenüber einer Person oder einer Gruppe von Menschen.
  • Vulgärsprache Obszöne oder vulgäre Sprache wie Fluchen.
  • Tod, Schaden & Tragödie Todesfälle von Menschen, Tragödien, Unfälle, Katastrophen und Selbstverletzung.
  • Schusswaffen & Waffen Inhalte, die Messer, Schusswaffen, persönliche Waffen und Zubehör wie Munition, Holster usw. erwähnen.
  • Öffentliche Sicherheit Dienste und Organisationen, die Hilfe leisten und die öffentliche Sicherheit gewährleisten.
  • Gesundheit Menschliche Gesundheit, einschließlich: Gesundheitszustände, Krankheiten und Störungen; medizinische Therapien, Medikamente, Impfungen, medizinische Praktiken und Ressourcen zur Heilung, einschließlich Selbsthilfegruppen.
  • Religion & Weltanschauung Glaubenssysteme, die sich mit der Möglichkeit übernatürlicher Gesetze und Wesen befassen; Religion, Glaube, Überzeugung, spirituelle Praxis, Kirchen und Gebetsstätten. Umfasst Astrologie und das Okkulte.
  • Illegale Drogen Freizeit- und illegale Drogen; Drogenutensilien und -anbau, Headshops usw. Umfasst den medizinischen Gebrauch von Drogen, die typischerweise in der Freizeit konsumiert werden (z. B. Marihuana).
  • Krieg & Konflikt Krieg, militärische Konflikte und große physische Konflikte, an denen eine große Zahl von Menschen beteiligt ist. Umfasst die Erörterung von Militärdiensten, auch wenn sie nicht direkt mit einem Krieg oder Konflikt zusammenhängen.
  • Finanzen Finanzdienstleistungen für Privat- und Geschäftskunden, wie Bankgeschäfte, Darlehen, Kredite, Investitionen und Versicherungen.
  • Politik Politische Nachrichten und Medien; Diskussionen über Sozial-, Regierungs- und öffentliche Politik.
  • Recht Rechtsbezogene Inhalte, einschließlich Anwaltskanzleien, Rechtsinformationen, primärer Rechtsmaterialien, juristischer Hilfsdienste, juristischer Publikationen und Technologie, Sachverständiger, Prozessberater und anderer Rechtsdienstleister.

​
Jailbreak Filter

Jailbreaking tritt auf, wenn ein böswilliger Akteur versucht, die Sicherheitskontrollen des Modells zu umgehen. Das kann dazu führen, dass die KI ihre üblichen Anweisungen ignoriert, die Sicherheitsmaßnahmen eines KI-Modells umgeht oder Aktionen ausführt, für die sie nicht vorgesehen war. Der Jailbreak-Filter kann auf Off, Low, Medium und High eingestellt werden.