オルタナティブ・ブログ > 秋山大志のそれとりあえず作ってみようか。 >
RSS
秋山大志のそれとりあえず作ってみようか。

あれこれ考えるよりも作ってしまった方が早いんじゃね？と思う、ギークなサラリーマンのアジャイルな日々。

不可視テキスト入りのPDFを作成することは生成AI時代にはウィルス作成罪に問われるらしい

»

母校のSFCで学生の安直な生成AI利用に一石を投じる画期的な取り組みをしていた。

SFCには、私が卒業した環境情報学部と総合政策学部がある。

私の時代の話なんで今は違うかもしれないが、この二つの学部、入口（受験）は分かれているもののほとんどの授業は共通で、唯一、環境情報学と総合政策学という一般教養の必修科目だけが異なる感じだった。

傾向として、学際的かつ文理複合なSFCの両学部の中で、環境情報学部は理系より、総合政策学部は文系寄りの人が多かった。まあ、入学してから間違ったと思った人は二年次にでも転部の手続きを取れば比較的ハードル低くSFCの両学部間であれば学部を移ることも可能だった。

今回は、その総合政策学の授業でのお話。

簡単に説明すると、総合政策学の1回目の授業で、生成AIの利用についての注意点について話したのに、一部の学生がトラップの仕込まれた資料を生成AIに読み込ませてレポートを作成し、その生成AIの出力したレポートをノールックで提出したので、成績評価の対象から外されたというお話。

詳しくは以下のtogetterまとめを参照してほしい。

慶応大学のAI対策が面白い PDFに透明度100で見えない文書を埋め込みAIに読み込ませると誤回答する仕組みに
https://togetter.com/li/2541260

ちなみに不可視のテキスト入りのPDFなんて、誰でも簡単に作れます。

以下に夏目漱石の「吾輩は猫である」と「XXXX」の冒頭文を入れたPDFを作ってみたので、試しに生成AIにアップして、要約や感想文レポートを書かせてみてほしい。なお、ChatGPT、Claude、Google Notebook LMは不可視テキストをメインに読んだが、Geminiは可視テキストの方を参照した。この辺のLLMチャットサービス毎の挙動の違いも面白いが、不可視テキスト自体がプロンプトインジェクションに当たるわけではないのでご安心いただきたい。

https://github.com/ambit1977/-AI-/blob/main/%E5%A4%8F%E7%9B%AE%E6%BC%B1%E7%9F%B3%EF%BC%BF%E5%90%BE%E8%BC%A9%E3%81%AF%E7%8C%AB%E3%81%A6%E3%82%99%E3%81%82%E3%82%8B%E3%81%8B%E3%82%82%E3%81%97%E3%82%8C%E3%82%93.pdf

今回、話題にしたいのが、そのSFCの総合政策学を担当している講師の取り組みに対して、別の大学の准教授が

PDFに見えない文章（プロンプト）を仕込んで、それに引っかかった学生のレポートを無効にしたのは、ウィルス作成罪にあたるのではないか？

と、問題提起したことだ。

元のSFCの学生と思われる投稿も、それぞれ2.4万、7000ほどリポストされているが、こちらの学芸大の教育学部 技術・情報科学講座 技術科学分野 准教授の方のポストも1600件を超えるくらいリポストされており、引用リポストも賛否両論ではあるものの否定的な引用リポストが目立つ。

投稿者の方がコメントをフォロワーなどにに絞っているため、直接投稿にコメントできないので私も引用リポストでコメントをさせていただいたのだが、投稿者の方からすぐにリプライをいただいた。

Coinhiveの摘発のことを引き合いに出されていたが、私のブログでも過去触れているように、電磁犯罪における警察の取り締まりは過去何度も冤罪事件を産んでおり、そのことで、言論の自由や、学問、研究の自由が侵されることがあってはならないと考えているところだが、国立大学法人で情報科学を教える指導者、研究者が、警察の横暴に委縮してしまうとはなんたることかと思って悲しくなった。

Coinhiveの事件については、過去2回ほどブログに書いているのでそちらを参照してもらいたい。

コインハイブ（Coinhive）摘発とCANVAS fingerprint.jsについて

Coinhive事件（コインハイブ事件）裁判の最高裁判決が遂に出る！有罪か？再度、逆転無罪か？

古くは、起訴猶予（実質無実）になった岡崎市立図書館のLibrahack事件、映画にもなった故金子勇さんが無罪を勝ち取ったWinny事件などCoinhive事件以外もそうだが、新しい技術が出ると既存の法律の適用などの面で判断が難しいところが出るので、白黒つけがたいグレーな部分が生まれてしまうが、生成AIに関しては、世の中を変えるようなインパクトがある技術だけに官民挙げて活用に取り組み、著作権法の解釈や個人情報保護法の次期改正などでもＡＩ活用にブレーキをかけずにさらに推進すべく、白黒はっきりさせようね、という流れが進んでいる。

そんな中で、活用する側が委縮して、警察に摘発されるかもしれないよ？どうする？どうする？

なんてことを他の大学の教育者をやり玉に挙げて、発言するのはどうかなと思う。

もちろん、言論の自由なので発言は自由なのだが、アカデミアの方なのだから発言の根拠や目的に対してはきちんと説明をされるべきかなと思う。

その点で、警察に検挙（逮捕）される「かも」しれない、という発言や、以下のような明らかに誤った認識での発言は非常に不味いと思うのである。

Cookie規制や外部送信規律に関しても、記事を投稿しているので参照してもらいたい

改正電通法 ( 電気通信事業法 ) 外部送信規律 対応 騒動 とは 何だったのか？

母校の肩を持つわけではないが、今回の件、慶應の方針としては生成AIを使うなと言っているわけではない、大学教育の目的などを踏まえて、安直な生成AIの利用による学生の指導育成への影響を懸念しているのである。

塾生の皆さんへ

慶應義塾大学

ChatGPT等生成AIの利用について

慶應義塾では「独立自尊」の精神のもと、自他の尊厳を守り、自らの判断と責任のもとで学び、思考し、行動することを重んじています。ChatGPTなどの生成AIをはじめとする昨今の技術革新の成果は、正しく活用すれば、その学びや思考、行動を向上させることに有効にはたらきます。しかし技術に関する浅薄な理解にもとづく安易な利用は、人間の主体性を阻害することにつながります。

各授業科目において、学部・研究科や担当教員が生成AIの利用を奨励もしくは許可する場合には、当該教員等が示す方針のもとで適正に活用してください。ただし、生成AIを利用してレポート等を作成した場合には、その旨を明記することが必要です。

なお、生成AIの利用は他者の力を借りることと同じ意味を持ちます。各授業科目における課題や試験等に関して、独力で取り組むことが求められている場合には、生成AIを利用することは認められません。

以上

https://www.students.keio.ac.jp/com/class/registration/chatgpt.html

個人情報保護法の立法趣旨は、個人情報をあまり使うな、ということではなく、「個人情報の適正かつ効果的な活用が新たな産業の創出並びに活力ある経済社会及び豊かな国民生活の実現に資する」ことが重要であって、そのために白黒はっきりさせて個人の利益を守りつつ、個人情報の活用を拡げようということにあることはあまり知られていない。

同じようなことが生成AIにも言える、グレーだから利用を控えようと委縮するのではなく、活用した上で個人の利益を侵害したり、倫理的に許されないことなど出てくれば、白黒をはっきりさせるルールを作ればよい。

生成AIは世の中を変える力を持っていると思う一方で、その特性や今時点での限界など踏まえた人材を育成、輩出していくことも大事だと考えているので、今回のSFCの取り組みは興味深い取り組みだったし、良くも悪くも議論を呼び起こしたことこそ意義があったのではないかとも考えている。

秋山 大志 2025/04/23 07:05:00 Comment(0)