男性の乳首で即NG？AI判定を切り抜けるアングル格闘記

『紅蜘蛛』シリーズはSteamだけでなく、Google PlayやApp Storeでも配信しています。

その昔、Google Playのアプリ申請が通らなかったことがありました。ストアの説明画像に問題があるとのことでしたが、何がいけないのかさっぱり分からない。

あまりに不明なので詳細を尋ねたところ、普段は個別回答してもらえないのですが、担当者も分かりにくいと判断したのか具体的に教えてもらえました。返ってきた指摘がこれです。

ストアに掲載するスクリーンショットの中にセーブデータ選択画面を入れていたのですが、その極小のサムネイルに含まれていた「血痕」がNGだったのです。血痕が含まれない別のサムネイルに差し替えたところ、無事に通過。ストア掲載画像の基準は想像以上に厳しいと学んだ一件でした。

ナイフ1本で突然の警告——『暗花』での体験

それから10年ほど経ち『紅蜘蛛外伝：暗花』をリリースした際、公開から1か月ほど経って突然ストアから警告を受けました。文面はAIによる自動判定のようでした。

引っかかったスチル画像がこちらです。

胸にナイフを突き立てている場面であることが原因でした。血の一滴も流れていない画像であるにもかかわらず、です。構図から考え直すのも手間だったため、単純にナイフを消すという雑な方法で対処しました。

「血が流れていると判定に引っかかる」という経験から、本来は流血している場面でも血を描かずに制作してきました。しかし『紅蜘蛛 リマスター版』では、血がないと「ただ倒れているだけ」に見えてしまう場面が出てきました。

ダメなら構図を変える覚悟で提出した以下の画像は、幸いNGにはなりませんでした。本当に「ナイフの有無」だけで判断されているようです。

『紅蜘蛛2』での挑戦と、GeminiによるAIプレ審査

現在制作中の『紅蜘蛛2 リマスター版』は、1作目や『暗花』よりも過激なスチルが登場します。そこで審査でのリジェクトを避けるため、事前にGemini（AI）に画像を見せてOKラインを探ってみることにしました。

まず1つ目。ピロートークの場面です。

状況的にヒロインは上半身下着をつけていない設定なのですが、さすがにそのままでは通らないため下着をつけ足しています。内容としてはただ会話しているだけのシーンです。

しかし、Geminiの判定は「NG」。「明らかにベッドの上と分かる画像で、男性の乳首が映っているとダメ」とのことでした。

仕方がないのでカメラを寄せ、コントラストを下げて全体を暗くし生々しさを抑えてみました。しかしGeminiの判定はこれも「NG」。「寄りすぎて下で何をやっているか分からないから」という理由でした。

「シーツを胸まで上げろ」？ キャラ崩壊のAI提案

ここでGeminiから以下の提案がありました。

左の人物に胸までシーツを引っ張り上げさせて、胸元を隠させたらどうでしょうか。

冷酷な殺し屋キャラにそんな真似をさせられるわけがありません。完全にキャラ崩壊だっつーの。

キャラの立ち振る舞いを崩さぬよう試行錯誤を重ね、ようやく「これなら通るかもしれない」と判定されたのが以下の構図です。

左側の人物を見切れさせたことで、ベッドの上なのかどうかが分かりづらくなったとのことでした。

印鑑を渡すだけで行為中判定？ 過敏すぎる判定の壁

さらに理解に苦しむ判定を受けたのがこの画面です。

右側の着衣の男性が、ベッドの上の女性に印鑑を渡している場面です。これが「NG」。理由は「ベッドの上で性行為をしているように見えるから」。この構図のどこが行為中に見えるのか、全く納得がいきません。

Geminiを問い詰めたところ「AI判定は雑なのですみません」と返答がありました。

仕方なくキャラクター同士の距離を離してみました。

結果は変わらず「NG」。理由は同じでした。明るい場所で、ベッドの上に半裸の女性がいる状態そのものがアウト判定になるようです。

悩みに悩んで、構図を大きく変更してみることにしました。

この構図でようやく「OK」が出ました。やれやれ。

ゴア表現の壁は「髪の毛」で遮蔽する

『紅蜘蛛2』にはゴア表現も含まれます。具体的には首を切り落として掲げるシーンです。正面から描写すれば審査通過は困難です。

しかし、この場面にはひとつ秘策がありました。斬られる人物がロングヘアだったことです。

後ろからの構図にして髪の毛で断面を覆うことで「何を持っているか判定できないだろう」と考えGeminiに確認したところ、生首を持っていることは認識されつつも、「断面（切り口）が見えていないためOK」という判定が出ました。それでいいんだ。

ちなみにこの場面は首を切られる人物のアバターを全裸にして首から下のパーツを全て透明度0にして描画しました。

表現を売りたいわけではないけれど

過激なエロやグロを売りにしたいわけではありません。むしろ性的な文脈にならないように文章では細心の注意を払っている場面です。
しかし、会話シーンや日常的な動作すらNGになりかける現状の判定基準が、一体何を守ろうとしているのか疑問が残ります。今後のAI判定の精度向上に期待したいところです。

なお、こうした極端な場面が登場するのはシリーズ中でも『紅蜘蛛2』のみです。このハードルを越えられれば、以降の制作はスムーズに進むと考えています。

※応援ボタンを押していただけると（ログイン不要）見てもらえる確率がちょっぴり上がります。応援よろしくお願いします

香港ノワール系ノベルゲーム紅蜘蛛2/Red Spider2リマスター版について

紅蜘蛛2/Red Spider2リマスター版（Win/Mac/Android/iOSで広告・課金一切なしの完全非営利無料配信）のリリースは来年１月末を目指しています。
興味を持った方は是非ウィッシュリストにご登録ください。

ウィッシュリスト登録はこちらから

また、昨年リリースしたシリーズ１作目のリマスター版「紅蜘蛛/Red Spider」リマスター版や一昨年リリースした紅蜘蛛外伝：暗花もフルスチル化作品ですのでお気軽に遊んでみてください。いずれもWin/Mac/Android/iOSで完全非営利無料配信中です。

• 紅蜘蛛/Red Spider リマスター版
• 紅蜘蛛外伝：暗花