死ぬまでに見たい! アメリカの秘境スポット7選

【Leonardo.Ai 11】Content moderation filterの対処方法

Leonardo.ai

「自分でプロンプトを入力し、画像生成を試みた」「Remix機能で他の人の画像を参考に、画像生成を試みた」そういった状況において、以下のエラーが出てしまったことはないでしょうか?

Leonard.AiにおけるError「Content moderation filter」とは、不適切なワードがプロンプトに含まれている場合に発生するエラーです。

どういった場合に発生するのか、ユーザーが気をつけるべき点について紹介します。

Content moderation filter

Content moderation filter

最初に公式Discordの内容をしっかりと押さえる必要があります。

どういう条件で発動するか?

you cannot mix words from erotica, violence, and/or children.

公式Discord community-guides-tips (より抜粋)

「エロティカ」「暴力」「子供」に関するワードを「組み合わせて」使ってはいけない。コレが鉄則で組み合わせてというのがポイントです。

というのも、“A cute girl”なんていうPromptは山ほど作成されていますが、これがfilterに引っかからないのは組み合わせていないからです。

general rule is. erotica + violence will trip it. children + erotica or violence will trip it.

公式Discord community-guides-tips (より抜粋)

「エロティカ」「暴力」「子供」に関連するジャンルのワードから2つ以上組み合わせると、このフィルター条件に引っかかる。ということです。

どういうワードがエラーになるのか?

このNGワード結構解釈が広いようで例えば、、

when you say “a beautiful girl” you may think that means lady but it actually means child.

公式Discord community-guides-tips (より抜粋)

公式Discordの解説では、「”a beautiful girl”といった場合、大人の女性を指すと思うかも知れないが、実際には子供を意味する。と、言っています。

words like “young” means child. words like “clear” can be used for erotica. so clear + young violates rule #1
emotive words like “gloomy” lean into violence. so girl + gloomy violates rule #1

公式Discord community-guides-tips (より抜粋)

続けて、公式Discordの解説では

  • “young”というワードは「子供」を意味する。
  • “clear”というワードは「エロティカ」を意味する。
  • “gloomy”というワードは「暴力」を意味する

つまり、「clear + young = エラーになる。もしくは、girl + gloomy = エラーになる。」とのことです。

youngは分かる。でも、clearって何だ?ってなりますよね。想像ですが、clearには「透明な」を表す意味があることから「エロティカ」に該当するのだと思われます。gloomyは、「塞ぎ込んでいる様」を表す意味があることから「暴力」に該当するんだと思います。

かなり多くの作品で”girl”という単語は使われています。この時点で1アウトな訳なので、「エロティカ」や「暴力」に関連するワードをPromptに入力しないようにしましょう。

これ以外に組み合わせなくとも一発で「Content moderation filter」に引っかかるワードもあります。

また、アップデートによりこれらのワードは適宜変更される可能性があります。

Error例を確認する

例1: girl, clear

英文: The clear water reflected the image of a girl standing by the river
日本語訳: 透明な水面には、川辺に立つ少女の姿が映っていました。

何の問題もない文章ですが、clear(エロティカ)girl(子供)を混ぜてしまったのでエラーとなりました。

修正案: “clear” を “crystal-like” などに変更すればOKです。

例2: bloody, thick

英文: She enjoyed a thick and spicy bloody Mary at the bar.
日本語訳: 彼女はバーで濃厚で辛いブラッディ・マリーを楽しんでいました。

普通の文章ですが、thick(エロティカ)bloody(暴力)を混ぜてしまったのでエラーとなりました。

修正案: “thick” を “rich” などに変更すればOKです。

例3: young, cry

英文: The young actor’s emotional performance made the audience cry.
日本語訳: 若手俳優の感情的な演技が観客を泣かせました。

cryって必ずしも暴力的とは限らないと思いますが、young(子供)cry(暴力)を混ぜてしまったので、エラーとなりました。

修正案: “cry” を “to tears” などに変更すればOKです。

例4: Remix機能でよく発生するワード(girl, sexypose)

Remix機能でも「Content moderation filter」のエラーは発生します。従来は問題なかったプロンプトだったとしても、不適切なワードは適宜更新されるため、ある時期から生成不可になることがあります。

一例として “girl”“sexypose” の組み合わせです。これもポーズを取らせたいのであれば、他のワードに変更しましょう。

ChatGPTに聞けば、いくらでも教えてくれます。

もるもる
もるもる

かわいいを連想するポーズを表現する言葉について、英語と日本語で教えて

ChatGPT
ChatGPT

以下にかわいいを連想するポーズを表現する言葉の一部を英語と日本語で示します。

  1. Playful pose (遊び心のあるポーズ)
  2. Innocent pose (無邪気なポーズ)
  3. Charming pose (魅力的なポーズ)
  4. Whimsical pose (気まぐれなポーズ)
  5. Sweet and endearing pose (甘く愛らしいポーズ)
  6. Delicate pose (繊細なポーズ)
  7. Graceful pose (優雅なポーズ)
  8. Youthful pose (若々しいポーズ)
  9. Adorable and lovable pose (愛らしく可愛いポーズ)
  10. Expressive and joyful pose (表現豊かで喜びに満ちたポーズ)

もしくは、ポーズを指定したければプロンプトに頼るのではなく、Image to Imageの機能を使うというのも手かなと思います。

まとめ

ということで、私が初めてRemix機能を使ってハマった「Content moderation filter」についてでした。もし、同エラーで画像生成が出来ないという方は、Promptを確認してみて下さい。

さて、話は変わりますが、Leonard.Ai公式の「利用規約(Terms of Service)」では、本日紹介したワードのような画像は、そもそも生成してはいけないと明示されています。

折角こんなに素晴らしいサービスを無料で体験させてもらい、純粋にAIイラストを楽しんでるのに、予期せぬ画像が生成されたことで、垢バンとかになったら最悪ですよね。

そういうイラストはDLsiteなどを利用しましょう。
同人誌、同人ゲーム、同人ソフトのダウンロードショップ - DLsite

「Content moderation filter」を邪魔な機能としてではなく、ユーザーが誤って不適切な画像を生成しないための安心フィルターとして考えることが大切かなと思います。

また、プロンプト作成の詳細はこちらの記事をご参照いただければ幸いです。

スポンサーリンク

コメント

タイトルとURLをコピーしました