Adicione a incrível moderação de conteúdo de IA automatizada ao seu aplicativo, é fácil!

Assimhara Wedagedara

3 anos atrás

API de moderação de conteúdo em destaque

You might have an application with a huge amount of user-generated content coming daily and need to moderate content automatically. It’s a pain to moderate content manually because it takes lots of man-hours. How about using artificial intelligence with IDE Software for that? It will instantly detect inappropriate content prevent form going public.

Índice

O que é a API de moderação de conteúdo da DeepAI?

DeepAI é uma fonte muito popular entre os buscadores de conteúdo de inteligência artificial. Fornece pesquisas, guias, notícias e APIs de inteligência artificial. Você pode facilmente obter uma chave de API criando uma conta e acessando todas as APIs de inteligência artificial. Basta visitar este link, criar uma conta e ir para o painel de controle e você terá sua chave API.

https://deepai.org/

É gratuito usar a moderação de conteúdo automatizada Deep.ai?

Ao se registrar, você terá $5 USD de crédito gratuito, o que equivale a 10.000 solicitações. Nenhum cartão de crédito necessário para o registro. Após o registro, você só precisa pagar $0.50 USD por 1000 solicitações ou há alguns pacotes empresariais que você pode discutir com eles.

Quais APIs de inteligência artificial Deep.ai estão disponíveis para uso em meu aplicativo Delphi?

Eles fornecem uma grande quantidade de APIs. Você pode verificar suas APIs a partir desta lista. A maioria deles também tem uma demonstração ao vivo em sua página de produto.

https://deepai.org/apis

One of their powerful API is the “Content Moderation API”. This API give you the all details to moderate the content. Once you supply and image to the API, it will provide you “Not safe for work” score, description about inappropriate content, the rectangle area of the inappropriate content, and the confidence score which is one if 100% confidence. This API can detect adult content, hate symbols, guns and offensive words.

Como faço para usar a API de moderação de conteúdo?

Podemos acessar todas as APIs DeepAI usando um cliente REST incluindo esta API de moderação de conteúdo. Uma solicitação curl simples para esta API é assim:

curl \
    --data 'image=YOUR_IMAGE_URL' \
    -H 'api-key:API_KEY' \
    https:&#47;&#47;api.deepai.org/api/content-moderation

curl \

--dados 'image=YOUR_IMAGE_URL' \

-H 'api-key:API_KEY' \

https://api.deepai.org/api/content-moderation

It’s self-explanatory and you have provide the image URL or local image file as “image” and the API key as a header value. Once you send the request, server will send a JSON response and you can parse it to have all moderation information about the image. Sample moderation would be like this:

{
    "id": "UNIQUE_ID",
    "output": {
        "detections": &#91;{
                "confidence": "0.83",
                "bounding_box": &#91;
                    118,
                    89,
                    21,
                    29
                ],
                "name": "Female Breast - Exposed"
            },
            {
                "confidence": "0.92",
                "bounding_box": &#91;
                    142,
                    92,
                    27,
                    27
                ],
                "name": "Female Breast - Exposed"
            },
            {
                "confidence": "0.54",
                "bounding_box": &#91;
                    168,
                    153,
                    19,
                    30
                ],
                "name": "Male Genitalia - Exposed"
            }
        ],
        "nsfw_score": 0.9997197985649109
    }
}

{

"id": "UNIQUE_ID",

"output": {

"detections": [{

"confidence": "0.83",

"bounding_box": [

118,

89,

21,

"name": "Female Breast - Exposed"

{

"confidence": "0.92",

"bounding_box": [

142,

92,

27,

"name": "Female Breast - Exposed"

{

"confidence": "0.54",

"bounding_box": [

168,

153,

19,

"name": "Male Genitalia - Exposed"

}

"nsfw_score": 0.9997197985649109

}

Você precisa analisar a matriz JSON dentro do JSON para obter os resultados.

Como acesso a API Deep.ai Content Moderation do Delphi?

We can use REST client component to access the this API and easily build a demo application. Let’s make a demo application which will draw a rectangle if one of the restricted content found. First add a TRESTClient, TRESTRequest and TRESTResponse components in to a form. Set the base URL of the client to the following:

https:&#47;&#47;api.deepai.org/api/content-moderation

1	https://api.deepai.org/api/content-moderation

Set the method of RESTRequest to rmPOST because we going to securely post the data. Then it’s the coding time. We need to set the image, API key, get the response and JSON parse in the code. In this example we will browse a local file and send the request. Once we parsed the response, we draw a rectangle in the canvas of the TImage.

Aqui está um exemplo de código Delphi para usar Deep.ai com uma API REST

procedure TfrmMain.btnModerateClick(Sender: TObject);
var
  lparam : Trestrequestparameter;
  jsonObj: TJSONObject;
  JSonValue  : TJSonValue;
  JSONArray, JSONArrayBound: TJSONArray;
  strJson: string;
  canv: TCanvas;
  i, posTop, posLeft, posWidth, posHeight: Integer;
begin
  lblWait.Visible := true;
  Application.ProcessMessages;
  RESTRequest.Params.Clear;
  RESTResponse.RootElement := '';
  lparam := RESTRequest.Params.AddItem;
  lparam.name := 'api-key';
  lparam.Value := edtAPIKey.Text;
  lparam.ContentType := ctNone;
  lparam.Kind := pkHTTPHEADER;
  lparam.Options := &#91;poDoNotEncode];

  lparam := RESTRequest.Params.AddItem;
  lparam.name := 'image';
  lparam.Value := strImgPath;
  lparam.ContentType := ctNone;
  lparam.Kind := pkFile;
  lparam.Options := &#91;poDoNotEncode];

  RESTRequest.Execute;
  if not RESTResponse.Status.Success then
    showmessage(RESTResponse.StatusText + ' ' +
      inttostr(RESTResponse.StatusCode))
  else
  begin
    canv := imgModerated.Canvas;
    canv.Pen.Color := clRed;
    canv.Pen.Width := 5;

    jsonObj := RESTResponse.JSONValue as TJSONObject;
    JSonValue := jsonObj.Get('output').JsonValue;
    JSONArray := JSonValue.GetValue&lt;TJSONArray&gt;('detections');

    for I := 0 to JSONArray.Count -1 do
    begin
      JSONArrayBound := JSONArray.Items&#91;I].GetValue&lt;TJSONArray&gt;('bounding_box');
      posTop :=  strtoint(JSONArrayBound.Items&#91;1].Value);
      posLeft :=  strtoint(JSONArrayBound.Items&#91;0].Value);
      posWidth :=  strtoint(JSONArrayBound.Items&#91;3].Value);
      posHeight :=  strtoint(JSONArrayBound.Items&#91;2].Value);

      canv.MoveTo(posLeft,posTop);
      canv.LineTo(posLeft + posWidth, posTop);

      canv.MoveTo(posLeft + posWidth, posTop);
      canv.LineTo(posLeft + posWidth, posTop + posHeight);

      canv.MoveTo(posLeft + posWidth, posTop + posHeight);
      canv.LineTo(posLeft, posTop + posHeight);

      canv.MoveTo(posLeft, posTop + posHeight);
      canv.LineTo(posLeft,posTop);

      canv.TextOut(posLeft,posTop, JSONArray.Items&#91;I].GetValue&lt;string&gt;('name'));
    end;
  end;
  lblWait.Visible := false;
end;

procedure TfrmMain.btnModerateClick(Sender: TObject);

var

lparam : Trestrequestparameter;

jsonObj: TJSONObject;

JSonValue : TJSonValue;

JSONArray, JSONArrayBound: TJSONArray;

strJson: string;

canv: TCanvas;

i, posTop, posLeft, posWidth, posHeight: Integer;

começar

lblWait.Visible := true;

Application.ProcessMessages;

RESTRequest.Params.Claro;

RESTResponse.RootElement := '';

lparam := RESTRequest.Params.AddItem;

lparam.name := 'api-key';

lparam.Value := edtAPIKey.Text;

lparam.ContentType := ctNone;

lparam.Kind := pkHTTPHEADER;

lparam.Options := [poDoNotEncode];

lparam := RESTRequest.Params.AddItem;

lparam.name := 'image';

lparam.Value := strImgPath;

lparam.ContentType := ctNone;

lparam.Kind := pkFile;

lparam.Options := [poDoNotEncode];

RESTRequest.Execute;

if não RESTResponse.Status.Success then

showmessage(RESTResponse.StatusText + ' ' +

inttostr(RESTResponse.StatusCode))

senão

começar

canv := imgModerated.Canvas;

canv.Pen.Color := clRed;

canv.Pen.Width := 5;

jsonObj := RESTResponse.JSONValue as TJSONObject;

JSonValue := jsonObj.Get('output').JsonValue;

JSONArray := JSonValue.GetValue<TJSONArray>('detections');

for I := 0 to JSONArray.Count -1 do

começar

JSONArrayBound := JSONArray.Items[I].GetValue<TJSONArray>('bounding_box');

posTop := strtoint(JSONArrayBound.Items[1].Value);

posLeft := strtoint(JSONArrayBound.Items[0].Value);

posWidth := strtoint(JSONArrayBound.Items[3].Value);

posHeight := strtoint(JSONArrayBound.Items[2].Value);

canv.MoveTo(posLeft,posTop);

canv.LineTo(posLeft + posWidth, posTop);

canv.MoveTo(posLeft + posWidth, posTop);

canv.LineTo(posLeft + posWidth, posTop + posHeight);

canv.MoveTo(posLeft + posWidth, posTop + posHeight);

canv.LineTo(posLeft, posTop + posHeight);

canv.MoveTo(posLeft, posTop + posHeight);

canv.LineTo(posLeft,posTop);

canv.TextOut(posLeft,posTop, JSONArray.Items[I].GetValue<string>('name'));

end;

lblWait.Visible := false;

end;

Analisando resultados JSON de Deep.ai

In this code we add two parameters, “api-key” and “image”, execute the request, and if success, parse the JSON value. Then if any inappropriate content found, it will draw a red rectangle in the canvas of the TImage. Final result is like this:

Você também pode baixar o aplicativo de demonstração neste link e usá-lo com sua chave API.

ContentModerationAPI.7z Baixar