Fügen Sie Ihrer App erstaunliche automatisierte KI-Inhaltsmoderation hinzu, es ist ganz einfach!

Thushara Wedagedara

vor 4 Jahren

You might have an application with a huge amount of user-generated content coming daily and need to moderate content automatically. It’s a pain to moderate content manually because it takes lots of man-hours. How about using artificial intelligence with IDE Software for that? It will instantly detect inappropriate content prevent form going public.

Inhaltsverzeichnis

Was ist die Content Moderation API von DeepAI?

DeepAI ist eine sehr beliebte Quelle bei Inhaltssuchenden mit künstlicher Intelligenz. Es bietet Recherchen, Leitfäden, Nachrichten und APIs der künstlichen Intelligenz. Sie können ganz einfach einen API-Schlüssel abrufen, indem Sie ein Konto erstellen und auf alle ihre APIs für künstliche Intelligenz zugreifen. Besuchen Sie einfach diesen Link, erstellen Sie ein Konto und gehen Sie dann zum Dashboard und Sie haben Ihren API-Schlüssel.

https://deepai.org/

Ist die automatisierte Inhaltsmoderation von Deep.ai kostenlos?

Wenn Sie sich registrieren, erhalten Sie $5 USD kostenloses Guthaben, das 10.000 Anfragen entspricht. Für die Registrierung ist keine Kreditkarte erforderlich. Nach der Registrierung müssen Sie nur $0,50 USD pro 1000 Anfragen bezahlen oder es gibt einige Unternehmenspakete, die Sie mit ihnen besprechen können.

Welche Deep.ai-APIs für künstliche Intelligenz können in meiner Delphi-Anwendung verwendet werden?

Sie bieten zahlreiche APIs. Sie können ihre APIs in dieser Liste überprüfen. Die meisten von ihnen haben auch eine Live-Demo auf ihrer Produktseite.

https://deepai.org/apis

Eine ihrer leistungsstarken APIs ist die „Content Moderation API“. Diese API gibt Ihnen alle Details, um den Inhalt zu moderieren. Nachdem Sie der API ein Bild bereitgestellt haben, erhalten Sie die Bewertung "Nicht sicher für die Arbeit", eine Beschreibung zu unangemessenen Inhalten, den rechteckigen Bereich des unangemessenen Inhalts und die Konfidenzbewertung, die einer bei 100%-Konfidenz entspricht. Diese API kann nicht jugendfreie Inhalte, Hasssymbole, Waffen und beleidigende Wörter erkennen.

Wie verwende ich die Content Moderation API?

Wir können über einen REST-Client auf alle DeepAI-APIs zugreifen, einschließlich dieser API für die Inhaltsmoderation. Eine einfache curl-Anfrage für diese API sieht so aus:

curl \
    --data 'image=YOUR_IMAGE_URL' \
    -H 'api-key:API_KEY' \
    https:&#47;&#47;api.deepai.org/api/content-moderation

curl \

--Daten 'image=YOUR_IMAGE_URL' \

-H 'api-key:API_KEY' \

https://api.deepai.org/api/content-moderation

Es ist selbsterklärend und Sie müssen die Bild-URL oder die lokale Bilddatei als „Bild“ und den API-Schlüssel als Header-Wert angeben. Sobald Sie die Anfrage gesendet haben, sendet der Server eine JSON-Antwort und Sie können sie analysieren, um alle Moderationsinformationen über das Bild zu erhalten. Eine Beispielmoderation würde so aussehen:

{
    "id": "UNIQUE_ID",
    "output": {
        "detections": &#91;{
                "confidence": "0.83",
                "bounding_box": &#91;
                    118,
                    89,
                    21,
                    29
                ],
                "name": "Female Breast - Exposed"
            },
            {
                "confidence": "0.92",
                "bounding_box": &#91;
                    142,
                    92,
                    27,
                    27
                ],
                "name": "Female Breast - Exposed"
            },
            {
                "confidence": "0.54",
                "bounding_box": &#91;
                    168,
                    153,
                    19,
                    30
                ],
                "name": "Male Genitalia - Exposed"
            }
        ],
        "nsfw_score": 0.9997197985649109
    }
}

{

"id": "UNIQUE_ID",

"output": {

"detections": [{

"confidence": "0.83",

"bounding_box": [

118,

89,

21,

"name": "Female Breast - Exposed"

{

"confidence": "0.92",

"bounding_box": [

142,

92,

27,

"name": "Female Breast - Exposed"

{

"confidence": "0.54",

"bounding_box": [

168,

153,

19,

"name": "Male Genitalia - Exposed"

}

"nsfw_score": 0.9997197985649109

}

Sie müssen das JSON-Array innerhalb des JSON analysieren, um die Ergebnisse zu erhalten.

Wie greife ich von Delphi aus auf die Deep.ai Content Moderation API zu?

Wir können die REST-Client-Komponente verwenden, um auf diese API zuzugreifen und einfach eine Demo-Anwendung zu erstellen. Lassen Sie uns eine Demoanwendung erstellen, die ein Rechteck zeichnet, wenn einer der eingeschränkten Inhalte gefunden wird. Fügen Sie zunächst einem Formular die Komponenten TRESTClient, TRESTRequest und TRESTResponse hinzu. Legen Sie die Basis-URL des Clients wie folgt fest:

https:&#47;&#47;api.deepai.org/api/content-moderation

1	https://api.deepai.org/api/content-moderation

Setzen Sie die Methode von RESTRequest auf rmPOST, da wir die Daten sicher veröffentlichen. Dann ist es Zeit für die Codierung. Wir müssen das Bild, den API-Schlüssel, die Antwort und den JSON-Parsing im Code festlegen. In diesem Beispiel durchsuchen wir eine lokale Datei und senden die Anfrage. Nachdem wir die Antwort geparst haben, zeichnen wir ein Rechteck im Canvas des TImage.

Hier ist ein Delphi-Codebeispiel für die Verwendung von Deep.ai mit einer REST-API

procedure TfrmMain.btnModerateClick(Sender: TObject);
var
  lparam : Trestrequestparameter;
  jsonObj: TJSONObject;
  JSonValue  : TJSonValue;
  JSONArray, JSONArrayBound: TJSONArray;
  strJson: string;
  canv: TCanvas;
  i, posTop, posLeft, posWidth, posHeight: Integer;
begin
  lblWait.Visible := true;
  Application.ProcessMessages;
  RESTRequest.Params.Clear;
  RESTResponse.RootElement := '';
  lparam := RESTRequest.Params.AddItem;
  lparam.name := 'api-key';
  lparam.Value := edtAPIKey.Text;
  lparam.ContentType := ctNone;
  lparam.Kind := pkHTTPHEADER;
  lparam.Options := &#91;poDoNotEncode];

  lparam := RESTRequest.Params.AddItem;
  lparam.name := 'image';
  lparam.Value := strImgPath;
  lparam.ContentType := ctNone;
  lparam.Kind := pkFile;
  lparam.Options := &#91;poDoNotEncode];

  RESTRequest.Execute;
  if not RESTResponse.Status.Success then
    showmessage(RESTResponse.StatusText + ' ' +
      inttostr(RESTResponse.StatusCode))
  else
  begin
    canv := imgModerated.Canvas;
    canv.Pen.Color := clRed;
    canv.Pen.Width := 5;

    jsonObj := RESTResponse.JSONValue as TJSONObject;
    JSonValue := jsonObj.Get('output').JsonValue;
    JSONArray := JSonValue.GetValue&lt;TJSONArray&gt;('detections');

    for I := 0 to JSONArray.Count -1 do
    begin
      JSONArrayBound := JSONArray.Items&#91;I].GetValue&lt;TJSONArray&gt;('bounding_box');
      posTop :=  strtoint(JSONArrayBound.Items&#91;1].Value);
      posLeft :=  strtoint(JSONArrayBound.Items&#91;0].Value);
      posWidth :=  strtoint(JSONArrayBound.Items&#91;3].Value);
      posHeight :=  strtoint(JSONArrayBound.Items&#91;2].Value);

      canv.MoveTo(posLeft,posTop);
      canv.LineTo(posLeft + posWidth, posTop);

      canv.MoveTo(posLeft + posWidth, posTop);
      canv.LineTo(posLeft + posWidth, posTop + posHeight);

      canv.MoveTo(posLeft + posWidth, posTop + posHeight);
      canv.LineTo(posLeft, posTop + posHeight);

      canv.MoveTo(posLeft, posTop + posHeight);
      canv.LineTo(posLeft,posTop);

      canv.TextOut(posLeft,posTop, JSONArray.Items&#91;I].GetValue&lt;string&gt;('name'));
    end;
  end;
  lblWait.Visible := false;
end;

procedure TfrmMain.btnModerateClick(Sender: TObject);

var

lparam : Trestrequestparameter;

jsonObj: TJSONObject;

JSonValue : TJSonValue;

JSONArray, JSONArrayBound: TJSONArray;

strJson: string;

canv: TCanvas;

i, posTop, posLeft, posWidth, posHeight: Integer;

Start

lblWait.Visible := true;

Application.ProcessMessages;

RESTRequest.Params.klar;

RESTResponse.RootElement := '';

lparam := RESTRequest.Params.AddItem;

lparam.name := 'api-key';

lparam.Value := edtAPIKey.Text;

lparam.ContentType := ctNone;

lparam.Kind := pkHTTPHEADER;

lparam.Options := [poDoNotEncode];

lparam := RESTRequest.Params.AddItem;

lparam.name := 'image';

lparam.Value := strImgPath;

lparam.ContentType := ctNone;

lparam.Kind := pkFile;

lparam.Options := [poDoNotEncode];

RESTRequest.Execute;

if nicht RESTResponse.Status.Success then

showmessage(RESTResponse.StatusText + ' ' +

inttostr(RESTResponse.StatusCode))

sonst

Start

canv := imgModerated.Canvas;

canv.Pen.Color := clRed;

canv.Pen.Width := 5;

jsonObj := RESTResponse.JSONValue as TJSONObject;

JSonValue := jsonObj.Get('output').JsonValue;

JSONArray := JSonValue.GetValue<TJSONArray>('detections');

for I := 0 to JSONArray.Count -1 do

Start

JSONArrayBound := JSONArray.Items[I].GetValue<TJSONArray>('bounding_box');

posTop := strtoint(JSONArrayBound.Items[1].Value);

posLeft := strtoint(JSONArrayBound.Items[0].Value);

posWidth := strtoint(JSONArrayBound.Items[3].Value);

posHeight := strtoint(JSONArrayBound.Items[2].Value);

canv.MoveTo(posLeft,posTop);

canv.LineTo(posLeft + posWidth, posTop);

canv.MoveTo(posLeft + posWidth, posTop);

canv.LineTo(posLeft + posWidth, posTop + posHeight);

canv.MoveTo(posLeft + posWidth, posTop + posHeight);

canv.LineTo(posLeft, posTop + posHeight);

canv.MoveTo(posLeft, posTop + posHeight);

canv.LineTo(posLeft,posTop);

canv.TextOut(posLeft,posTop, JSONArray.Items[I].GetValue<string>('name'));

end;

lblWait.Visible := false;

end;

Analysieren von JSON-Ergebnissen von Deep.ai

In diesem Code fügen wir zwei Parameter hinzu, „api-key“ und „image“, führen die Anfrage aus und parsen bei Erfolg den JSON-Wert. Wenn dann unangemessener Inhalt gefunden wird, wird ein rotes Rechteck in die Leinwand des TImage gezeichnet. Endergebnis ist wie folgt:

Sie können die Demoanwendung auch über diesen Link herunterladen und mit Ihrem API-Schlüssel verwenden.

ContentModerationAPI.7z Herunterladen