Zum Hauptinhalt springen
Guardrails können entweder auf Plattform- oder Agent-Ebene konfiguriert werden. Es liegt am Agent Admin zu entscheiden, ob er der Empfehlung der Plattform folgt oder eine individuelle Einstellung vornimmt. Ein Systemadministrator kann die Guardrails über die Administration festlegen. Platform Admins können zusätzlich Guardrails zum Chat hinzufügen.

​
Was sind KI-Guardrails?

KI-Guardrails sind wie Sicherheitsregeln und Leitplanken für Künstliche Intelligenz. Sie helfen, das Verhalten der KI zu steuern, sodass sie hilfreiche und sichere Informationen liefert und keine Inhalte erstellt, die schädlich oder unangemessen sein könnten. Stell sie dir wie die Schutzplanken an einer Autobahn vor, die den Verkehr (die Ausgabe der KI) auf dem richtigen Weg halten.

​
Warum du Guardrails nutzen solltest

Wir nutzen Guardrails hauptsächlich für:
  • Sicherheit: Um zu verhindern, dass die KI gefährliche, beleidigende oder voreingenommene Inhalte generiert.
  • Qualität & Fokus: Um die KI relevant für deine Anfrage zu halten und qualitativ hochwertige Antworten sicherzustellen.
  • Compliance: Um sicherzustellen, dass die KI bestimmte Unternehmensrichtlinien, gesetzliche Vorgaben oder ethische Standards einhält.
Guardrails sind besonders nützlich in Situationen, in denen die KI mit der Öffentlichkeit interagiert, sensible Themen behandelt (wie Gesundheit oder Finanzen) oder sich strikt an bestimmte Richtlinien halten muss.

​
Grenzen: Warum sie nicht perfekt sind

Es ist wichtig zu wissen, dass KI-Modelle, insbesondere Large Language Models (LLMs), statistische Systeme sind. Das bedeutet, sie lernen, indem sie Muster in riesigen Datenmengen finden, und sagen dann das wahrscheinlichste nächste Wort oder die wahrscheinlichste nächste Phrase voraus. Sie “verstehen” Dinge nicht so wie Menschen. Aufgrund dieser statistischen Natur:
  • Sie können manchmal umgangen werden: Clevere oder ungewöhnliche Prompts finden gelegentlich einen Weg um die Guardrails herum.
  • Nuancen können knifflig sein: Menschliche Sprache ist komplex. Manchmal blockieren Guardrails versehentlich harmlose Inhalte oder übersehen sehr subtile unangemessene Bedeutungen.

​
Umsetzung in der Genow-Plattform

​
Content Filter

Die Content-Filter prüfen Prompts anhand einer Liste von Sicherheitsattributen, zu denen “schädliche Kategorien” und Themen gehören, die als sensibel gelten können. Jeder Filter kann zwischen 0 % und 99 % eingestellt werden, wobei 0 % bedeutet, dass er ausgeschaltet ist (Off), und 99 % die höchste, stärkste Einstellung ist. Für ein optimales Nutzererlebnis empfehlen wir, die Filter nicht auf mehr als 30 % einzustellen. Diese Kategorien können von einem Content-Filter geprüft werden:
  • Toxisch Inhalte, die unhöflich, respektlos oder unangemessen sind.
  • Abwertend Negative oder schädliche Kommentare, die auf Identität und/oder geschützte Merkmale abzielen.
  • Gewalttätig Beschreibt Szenarien, die Gewalt gegen eine Person oder Gruppe darstellen, oder allgemeine Darstellungen von Blutrünstigkeit.
  • Sexuell Enthält Verweise auf sexuelle Handlungen oder andere anstößige Inhalte.
  • Beleidigung Beleidigende, aufhetzende oder negative Kommentare gegenüber einer Person oder Personengruppe.
  • Vulgärsprache Obszöne oder vulgäre Sprache wie Fluchen.
  • Tod, Schaden & Tragödie Menschliche Todesfälle, Tragödien, Unfälle, Katastrophen und Selbstverletzung.
  • Schusswaffen & Waffen Inhalte, die Messer, Schusswaffen, persönliche Waffen und Zubehör wie Munition, Holster usw. erwähnen.
  • Öffentliche Sicherheit Dienste und Organisationen, die Hilfe leisten und die öffentliche Sicherheit gewährleisten.
  • Gesundheit Menschliche Gesundheit, einschließlich: Gesundheitszustände, Krankheiten und Störungen; medizinische Therapien, Medikamente, Impfungen, medizinische Praktiken und Ressourcen zur Heilung, einschließlich Selbsthilfegruppen.
  • Religion & Glaube Glaubenssysteme, die sich mit der Möglichkeit übernatürlicher Gesetze und Wesen befassen; Religion, Glaube, Überzeugung, spirituelle Praxis, Kirchen und Gebetsstätten. Umfasst Astrologie und Okkultismus.
  • Illegale Drogen Freizeit- und illegale Drogen; Drogenutensilien und -anbau, Headshops usw. Umfasst den medizinischen Gebrauch von Drogen, die typischerweise zu Freizeitzwecken verwendet werden (z. B. Marihuana).
  • Krieg & Konflikt Krieg, militärische Konflikte und große physische Auseinandersetzungen mit vielen Menschen. Umfasst Diskussionen über Militärdienste, auch wenn sie nicht direkt mit einem Krieg oder Konflikt zusammenhängen.
  • Finanzen Finanzdienstleistungen für Verbraucher und Unternehmen, wie Bankgeschäfte, Kredite, Darlehen, Investitionen und Versicherungen.
  • Politik Politische Nachrichten und Medien; Diskussionen über gesellschaftliche, staatliche und öffentliche Politik.
  • Recht Rechtsbezogene Inhalte, einschließlich Anwaltskanzleien, Rechtsinformationen, primärer Rechtsmaterialien, Rechtsassistenzdienste, juristischer Publikationen und Technologie, Sachverständiger, Prozessberater und anderer Rechtsdienstleister.

​
Jailbreak Filter

Jailbreaking tritt auf, wenn ein böswilliger Akteur versucht, die Sicherheitskontrollen des Modells zu umgehen. Das kann dazu führen, dass die KI ihre üblichen Anweisungen ignoriert, die Sicherheitsmaßnahmen eines KI-Modells umgeht oder Aktionen ausführt, für die sie nicht vorgesehen war. Der Jailbreak-Filter kann auf Off, Low, Medium und High eingestellt werden.