List of Artificial-Intelligence - text.Baldanders.info
tag:text.Baldanders.info,2023-12-16:/tags
2023-12-16T12:29:23+09:00
帰ってきた「しっぽのさきっちょ」
https://text.baldanders.info/images/avatar.jpg
https://text.baldanders.info/images/avatar.jpg
インターネットという単一知性
tag:text.Baldanders.info,2023-12-16:/remark/2023/12/internet-as-a-monolithic-intelligence/
2023-12-16T03:29:23+00:00
2023-12-16T03:32:25+00:00
ここのところ Bruce Schneier さんが立て続けにエッセイを公開しているのだが,今回も面白い。
Spiegel
https://baldanders.info/profile/
<p>12月に入って急に忙しくなり,クリスマスどころではない Spiegel です。</p>
<ruby><rb>閑話休題</rb><rp> (</rp><rt>それはさておき</rt><rp>) </rp></ruby>
<p>ここのところ Bruce Schneier さんが立て続けにエッセイを公開しているのだが,今回も面白い。</p>
<ul>
<li><a href="https://www.schneier.com/blog/archives/2023/12/a-robot-the-size-of-the-world.html">A Robot the Size of the World - Schneier on Security</a></li>
</ul>
<p>いわゆる「モノのインターネット(Internet of Things; IoT)」のもう少し先の未来(かもしれない)話。
今回はちょっと SF チックかな。</p>
<figure lang="en">
<blockquote><p>The real changes will happen when these AIs group together in a larger intelligence: A vast network of power generation and power consumption with each building just a node, like an ant colony or a human army.</p>
<p>[…]</p>
<p>It will call on humans as needed: to repair individual subsystems or to do things too specialized for the robots.</p>
</blockquote>
<figcaption><div>via <q><a href="https://www.schneier.com/blog/archives/2023/12/a-robot-the-size-of-the-world.html">A Robot the Size of the World</a></q></div></figcaption>
</figure>
<p>Bruce Schneier さんはこれを「新しいロボット」として話を展開する。</p>
<figure lang="en">
<blockquote>But our new robots are different. Their sensors and actuators are distributed in the environment. Their processing is somewhere else. They’re a network of individual units that become a robot only in aggregate.</blockquote>
<figcaption><div>via <q><a href="https://www.schneier.com/blog/archives/2023/12/a-robot-the-size-of-the-world.html">A Robot the Size of the World</a></q></div></figcaption>
</figure>
<figure lang="en">
<blockquote>This future requires us to see ourselves less as individuals, and more as parts of larger systems. It’s AI as nature, as Gaia—everything as one system. It’s a future more aligned with the Buddhist philosophy of interconnectedness than Western ideas of individuality. (And also with science-fiction dystopias, like Skynet from the Terminator movies.)</blockquote>
<figcaption><div>via <q><a href="https://www.schneier.com/blog/archives/2023/12/a-robot-the-size-of-the-world.html">A Robot the Size of the World</a></q></div></figcaption>
</figure>
<p>まぁ,確かに仏教の「諸法無我」の考え方に近いかもね。
これって「新しいロボット」の立場から見ればそうなんだろうけど,使役される人間から見れば「<a href="https://yamdas.hatenablog.com/entry/20230828/neo-feudalism" title="時代はデジタル封建主義? ジョエル・コトキン『新しい封建制がやってくる』が出るぞ - YAMDAS現更新履歴">ネオ封建制(NEO-Feudalism)</a>」そのものだよな。
そうなると,この「新しいロボット」を統御するのは誰? という話になってくる,当然ながら。</p>
<figure lang="en">
<blockquote>This turns our notion of security on its head. If massive, decentralized AIs run everything, then who controls those AIs matters a lot. It’s as if all the executive assistants or lawyers in an industry worked for the same agency. An AI that is both trusted and trustworthy will become a critical requirement.</blockquote>
<figcaption><div>via <q><a href="https://www.schneier.com/blog/archives/2023/12/a-robot-the-size-of-the-world.html">A Robot the Size of the World</a></q></div></figcaption>
</figure>
<p>私のような手塚治虫マンガに毒された世代としては『火の鳥 未来編』のハレルヤを連想せずにはいられないけどね(笑)</p>
<p>(以下,いつもの戯れ言)</p>
<p>ゼロ年代,夢の Web 2.0 の頃はこんな妄想をしていた。</p>
<figure>
<blockquote>
<q>そういえば Google は何か言ってなかったか。世界中の情報をグラフ化するとかどうとか。もし地球の外から今の地球を見たとき, 観測できる「知性」はただひとつしか存在しないかもしれない。「The Net」を自称する「知性」。ネットを構成する素子(=ヒトやコンピュータ)には決して認識できない存在。もとよりヒトごときがネット上の「創発」を認識することなどあり得ないのではないのか</q>
</blockquote>
<figcaption><div><q><a href="https://baldanders.info/blog/000343/">『数学ガール』を読む</a></q>より</div></figcaption>
</figure>
<p>この妄想は「ネットのテレビ化」で脆くも<a href="https://text.baldanders.info/remark/2021/12/the-search-from-extraterrestrial-intelligence/" title="【妄想】地球に知的生命体はいるか【与太話】">崩れ去った</a>わけだが,インターネットという神経ネットワークのノードが人間ではなく AI なら面白そうである。
ネット上の主要プレイヤーがヒトから機械にとって代わるのであれば,今度こそ地球上に知性が誕生すると期待していいのだろうか(笑)</p>
<h2>ブックマーク</h2>
<ul>
<li>
<p><a href="https://wirelesswire.jp/2023/09/85276/">先鋭化する大富豪の白人男性たち、警告する女性たち – WirelessWire News</a></p>
</li>
<li>
<p><a href="https://wirelesswire.jp/2023/10/85416/">テクノ楽観主義者からラッダイトまで – WirelessWire News</a></p>
</li>
<li>
<p><a href="https://wirelesswire.jp/2023/11/85568/">「テクノ楽観主義者宣言」にみる先鋭化するテック大富豪のイキり、そしてテック業界の潮目の変化 – WirelessWire News</a></p>
</li>
<li>
<p><a href="https://text.baldanders.info/remark/2023/12/ai-and-trust/">「人工知能と信頼」〜 鉄腕アトムとは友達になれない</a></p>
</li>
</ul>
<h2>参考</h2>
<div class="hreview">
<div class="photo"><a href="https://www.amazon.co.jp/dp/B0CK19L1HC?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1"><img src="https://m.media-amazon.com/images/I/41iX72RfUuL._SL160_.jpg" width="108" alt="photo"></a></div>
<dl>
<dt class="item"><a class="fn url" href="https://www.amazon.co.jp/dp/B0CK19L1HC?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1">ハッキング思考 強者はいかにしてルールを歪めるのか、それを正すにはどうしたらいいのか</a></dt>
<dd>ブルース・シュナイアー (著), 高橋 聡 (翻訳)</dd>
<dd>日経BP 2023-10-12 (Release 2023-10-12)</dd>
<dd>Kindle版</dd>
<dd>B0CK19L1HC (ASIN)</dd>
<dd>評価<abbr class="rating fa-sm" title="5"> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i></abbr></dd>
</dl>
<p class="description">Kindle 版が出てた!</p>
<p class="powered-by">reviewed by <a href='#maker' class='reviewer'>Spiegel</a> on <abbr class="dtreviewed" title="2023-11-21">2023-11-21</abbr> (powered by <a href="https://affiliate.amazon.co.jp/assoc_credentials/home">PA-APIv5</a>)</p>
</div> <!-- ハッキング思考 Kindle 版 -->
<div class="hreview">
<div class="photo"><a href="https://www.amazon.co.jp/dp/B0CG5R6N2G?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1"><img src="https://m.media-amazon.com/images/I/517N93mim5L._SL160_.jpg" width="110" alt="photo"></a></div>
<dl>
<dt class="item"><a class="fn url" href="https://www.amazon.co.jp/dp/B0CG5R6N2G?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1">新しい封建制がやってくる―グローバル中流階級への警告</a></dt>
<dd>ジョエル コトキン (著), 寺下 滝郎 (翻訳), 中野 剛志 (その他)</dd>
<dd>東洋経済新報社 2023-11-01 (Release 2023-11-01)</dd>
<dd>Kindle版</dd>
<dd>B0CG5R6N2G (ASIN)</dd>
</dl>
<p class="description">「ネオ封建制(NEO-Feudalism)」。ネーミングが胡散臭くて買う気がしなかったのだが,やっぱ読んでおいたほうがいいのか? まぁ,安いし,300ページくらいの量なら(笑)</p>
<p class="powered-by">reviewed by <a href='#maker' class='reviewer'>Spiegel</a> on <abbr class="dtreviewed" title="2023-12-16">2023-12-16</abbr> (powered by <a href="https://affiliate.amazon.co.jp/assoc_credentials/home">PA-APIv5</a>)</p>
</div> <!-- 新しい封建制がやってくる ネオ封建制 -->
<div class="hreview">
<div class="photo"><a href="https://www.amazon.co.jp/dp/B0BHYJKB5N?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1"><img src="https://m.media-amazon.com/images/I/51gl1i9n+WL._SL160_.jpg" width="113" alt="photo"></a></div>
<dl>
<dt class="item"><a class="fn url" href="https://www.amazon.co.jp/dp/B0BHYJKB5N?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1">PLUTO デジタルVer.(1) (ビッグコミックス)</a></dt>
<dd>浦沢直樹×手塚治虫 (著), 長崎尚志プロデュース (著), 手塚プロダクション (著), 手塚眞 (読み手)</dd>
<dd>小学館 2004-09-30 (Release 2022-10-28)</dd>
<dd>Kindle版</dd>
<dd>B0BHYJKB5N (ASIN)</dd>
<dd>評価<abbr class="rating fa-sm" title="5"> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i></abbr></dd>
</dl>
<p class="description">今までの浦沢直樹さんの作品の中で一番なんじゃないだろうか。地上最大のロボット」って実はあまり印象にないんだよねぇ。全集なんかで読み返すと当時は(時代を反映した)結構な問題作だったらしいが,敢えてそれを選ぶってのが凄いよなぁ。オリジナルのラストはちょっと切ないというか物足りない終わり方をしているのだが,浦沢版ではいったいどうなるのか。楽しみである。</p>
<p class="powered-by">reviewed by <a href='#maker' class='reviewer'>Spiegel</a> on <abbr class="dtreviewed" title="2006-05-07">2006-05-07</abbr> (powered by <a href="https://affiliate.amazon.co.jp/assoc_credentials/home">PA-APIv5</a>)</p>
</div> <!-- PLUTO -->
<div class="hreview">
<div class="photo"><a href="https://www.amazon.co.jp/dp/B00JPXEATA?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1"><img src="https://m.media-amazon.com/images/I/51PkU21DmEL._SL160_.jpg" width="112" alt="photo"></a></div>
<dl>
<dt class="item"><a class="fn url" href="https://www.amazon.co.jp/dp/B00JPXEATA?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1">火の鳥 3</a></dt>
<dd>手塚治虫 (著)</dd>
<dd>手塚プロダクション (Release 2014-04-25)</dd>
<dd>Kindle版</dd>
<dd>B00JPXEATA (ASIN)</dd>
<dd>評価<abbr class="rating fa-sm" title="5"> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i></abbr></dd>
</dl>
<p class="description">おー。「火の鳥」の Kindle 版があるのか。表紙からして未来編かな。</p>
<p class="powered-by">reviewed by <a href='#maker' class='reviewer'>Spiegel</a> on <abbr class="dtreviewed" title="2023-12-16">2023-12-16</abbr> (powered by <a href="https://affiliate.amazon.co.jp/assoc_credentials/home">PA-APIv5</a>)</p>
</div> <!-- 火の鳥 未来編 -->
<div class="hreview">
<div class="photo"><a href="https://www.amazon.co.jp/dp/B0CNSPHTF4?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1"><img src="https://m.media-amazon.com/images/I/51G0OOUR+8L._SL160_.jpg" width="160" alt="photo"></a></div>
<dl>
<dt class="item"><a class="fn url" href="https://www.amazon.co.jp/dp/B0CNSPHTF4?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1">Brave Blazar (feat. MindaRyn)</a></dt>
<dd>TECHNOBOYS PULCRAFT GREEN-FUND (メインアーティスト)</dd>
<dd>Lantis (Release 2023-12-13)</dd>
<dd>MP3 ダウンロード</dd>
<dd>B0CNSPHTF4 (ASIN)</dd>
<dd>評価<abbr class="rating fa-sm" title="4"> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="far fa-star"></i></abbr></dd>
</dl>
<p class="description">「ウルトラマンブレーザー」後期ED曲。 MindaRyn さんはよい。</p>
<p class="powered-by">reviewed by <a href='#maker' class='reviewer'>Spiegel</a> on <abbr class="dtreviewed" title="2023-12-15">2023-12-15</abbr> (powered by <a href="https://affiliate.amazon.co.jp/assoc_credentials/home">PA-APIv5</a>)</p>
</div> <!-- Brave Blazar MindaRyn -->
<div class="hreview">
<div class="photo"><a href="https://www.amazon.co.jp/dp/B01FI3BM00?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1"><img src="https://m.media-amazon.com/images/I/610BxLpAAFL._SL160_.jpg" width="160" alt="photo"></a></div>
<dl>
<dt class="item"><a class="fn url" href="https://www.amazon.co.jp/dp/B01FI3BM00?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1">ときめきポポロン♪</a></dt>
<dd>チマメ隊 (メインアーティスト)</dd>
<dd>NBCUniversal Entertainment (Release 2016-05-25)</dd>
<dd>MP3 ダウンロード</dd>
<dd>B01FI3BM00 (ASIN)</dd>
<dd>評価<abbr class="rating fa-sm" title="4"> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="far fa-star"></i></abbr></dd>
</dl>
<p class="description">あざと可愛らしい曲。個人的にクリスマスソングとして聴いている(笑)</p>
<p class="powered-by">reviewed by <a href='#maker' class='reviewer'>Spiegel</a> on <abbr class="dtreviewed" title="2015-12-20">2015-12-20</abbr> (powered by <a href="https://affiliate.amazon.co.jp/assoc_credentials/home">PA-APIv5</a>)</p>
</div> <!-- ときめきポポロン♪ -->
<div class="hreview">
<div class="photo"><a href="https://www.amazon.co.jp/dp/B07BTBMG58?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1"><img src="https://m.media-amazon.com/images/I/61LG-i2mjSL._SL160_.jpg" width="137" alt="photo"></a></div>
<dl>
<dt class="item"><a class="fn url" href="https://www.amazon.co.jp/dp/B07BTBMG58?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1">“らしく”いきましょ</a></dt>
<dd>井上苑子 (メインアーティスト)</dd>
<dd>King Records 2018-04-04 (Release 2018-04-04)</dd>
<dd>MP3 ダウンロード</dd>
<dd>B07BTBMG58 (ASIN)</dd>
<dd>評価<abbr class="rating fa-sm" title="4"> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="far fa-star"></i></abbr></dd>
</dl>
<p class="description">アニメ「セーラームーン SuperS」のED曲。原作者の武内直子さんの作詞らしい。可愛らしい曲。仕事で煮詰まってるときに聴くともうちょっと頑張ろうって気になる(笑)</p>
<p class="powered-by">reviewed by <a href='#maker' class='reviewer'>Spiegel</a> on <abbr class="dtreviewed" title="2021-08-12">2021-08-12</abbr> (powered by <a href="https://affiliate.amazon.co.jp/assoc_credentials/home">PA-APIv5</a>)</p>
</div> <!-- “らしく” いきましょ セーラームーン SuperS -->
「人工知能と信頼」〜 鉄腕アトムとは友達になれない
tag:text.Baldanders.info,2023-12-05:/remark/2023/12/ai-and-trust/
2023-12-05T13:01:31+00:00
2023-12-16T03:32:25+00:00
我らが Bruce Schneier 先生の最新エッセイが面白かったので紹介するふりをして戯れ言を書いてみる。
Spiegel
https://baldanders.info/profile/
<p>我らが Bruce Schneier 先生の最新エッセイが面白かったので紹介するふりをして戯れ言を書いてみる。</p>
<ul>
<li><a href="https://www.schneier.com/blog/archives/2023/12/ai-and-trust.html">AI and Trust - Schneier on Security</a></li>
</ul>
<p>このエッセイでは以下の4つの内容について取り上げている。</p>
<ol>
<li>信頼には対人信頼(interpersonal trust)と社会的信頼(social trust)の2つがあり,私達はしばしば両者を混同してしまう</li>
<li>人工知能(AI)によってこの混同が拡大する</li>
<li>AI システムを管理している企業はこの混同に便乗して私達を利用する</li>
<li>社会への信頼を生み出すのが政府の役割(=規制)である</li>
</ol>
<p>その上で</p>
<figure lang="en">
<blockquote>Not regulating AI, but regulating the organizations that control and use AI.</blockquote>
<figcaption><div>via <q><a href="https://www.schneier.com/blog/archives/2023/12/ai-and-trust.html">AI and Trust</a></q></div></figcaption>
</figure>
<p>と言うのだ。
もうのっけから面白い!</p>
<p>まずは対人信頼(interpersonal trust)について。</p>
<figure lang="en">
<blockquote>When we say that we trust a friend, it is less about their specific actions and more about them as a person. IIt’s a general reliance that they will behave in a trustworthy manner. We trust their intentions, and know that those intentions will inform their actions. Let’s call this “interpersonal trust.”</blockquote>
<figcaption><div>via <q><a href="https://www.schneier.com/blog/archives/2023/12/ai-and-trust.html">AI and Trust</a></q></div></figcaption>
</figure>
<p>つまり「◯◯さんは人として信頼できる」というのが対人信頼なわけだ。
それに対し,社会的信頼(social trust)については</p>
<figure lang="en">
<blockquote>We might not know someone personally, or know their motivations—but we can trust their behavior. We don’t know whether or not someone wants to steal, but maybe we can trust that they won’t. It’s really more about reliability and predictability. We’ll call this “social trust.” It’s the ability to trust strangers.</blockquote>
<figcaption><div>via <q><a href="https://www.schneier.com/blog/archives/2023/12/ai-and-trust.html">AI and Trust</a></q></div></figcaption>
</figure>
<p>と書かれている。
たとえば企業が「顧客サービスは信頼が大事」などというときの「信頼」は対人信頼ではなく社会的信頼ということだ。
そして</p>
<figure lang="en">
<blockquote>Because of how large and complex society has become, we have replaced many of the rituals and behaviors of interpersonal trust with security mechanisms that enforce reliability and predictability—social trust.</blockquote>
<figcaption><div>via <q><a href="https://www.schneier.com/blog/archives/2023/12/ai-and-trust.html">AI and Trust</a></q></div></figcaption>
</figure>
<p>と続く。
しかし対人信頼と社会的信頼はひと括りに「信頼」と呼んでるため両者を混同してしまう。
カテゴリーエラーが発生するわけだ。</p>
<figure lang="en">
<blockquote>We might think of them as friends, when they are actually services. Corporations are not moral; they are precisely as immoral as the law and their reputations let them get away with.</blockquote>
<figcaption><div>via <q><a href="https://www.schneier.com/blog/archives/2023/12/ai-and-trust.html">AI and Trust</a></q></div></figcaption>
</figure>
<p>私は上に引用した文章で爆笑してしまったよ。
企業は法律と同じくらい非道徳的だってさ。
言われてみればそうだよね(笑)</p>
<figure lang="en">
<blockquote>Corporations like that we make this category error—see, I just made it myself—because they profit when we think of them as friends. They use mascots and spokesmodels. They have social media accounts with personalities. They refer to themselves like they are people.</blockquote>
<figcaption><div>via <q><a href="https://www.schneier.com/blog/archives/2023/12/ai-and-trust.html">AI and Trust</a></q></div></figcaption>
</figure>
<p>ここでようやく AI が出てくる。</p>
<figure lang="en">
<blockquote>Science fiction author Ted Chiang writes about it. Instead of solving all of humanity’s problems, or wandering off proving mathematical theorems that no one understands, the AI single-mindedly pursues the goal of maximizing production. Chiang’s point is that this is every corporation’s business plan. And that our fears of AI are basically fears of capitalism.</blockquote>
<figcaption><div>via <q><a href="https://www.schneier.com/blog/archives/2023/12/ai-and-trust.html">AI and Trust</a></q></div></figcaption>
</figure>
<figure lang="en">
<blockquote>And near-term AIs will be controlled by corporations. Which will use them towards that profit-maximizing goal. They won’t be our friends. At best, they’ll be useful services. More likely, they’ll spy on us and try to manipulate us.</blockquote>
<figcaption><div>via <q><a href="https://www.schneier.com/blog/archives/2023/12/ai-and-trust.html">AI and Trust</a></q></div></figcaption>
</figure>
<p>そして,企業に制御される AI は以下の2つの理由で悪い方向に転ぶと予測する。</p>
<figure lang="en">
<blockquote>The first is that these AI systems will be more relational. We will be conversing with them, using natural language. As such, we will naturally ascribe human-like characteristics to them.</blockquote>
<figcaption><div>via <q><a href="https://www.schneier.com/blog/archives/2023/12/ai-and-trust.html">AI and Trust</a></q></div></figcaption>
</figure>
<figure lang="en">
<blockquote>The second reason to be concerned is that these AIs will be more intimate. One of the promises of generative AI is a personal digital assistant. Acting as your advocate with others, and as a butler with you.</blockquote>
<figcaption><div>via <q><a href="https://www.schneier.com/blog/archives/2023/12/ai-and-trust.html">AI and Trust</a></q></div></figcaption>
</figure>
<p>その結果</p>
<figure lang="en">
<blockquote>It’s no accident that these corporate AIs have a human-like interface. There’s nothing inevitable about that. It’s a design choice. It could be designed to be less personal, less human-like, more obviously a service—like a search engine . The companies behind those AIs want you to make the friend/service category error. It will exploit your mistaking it for a friend. And you might not have any choice but to use it.</blockquote>
<figcaption><div>via <q><a href="https://www.schneier.com/blog/archives/2023/12/ai-and-trust.html">AI and Trust</a></q></div></figcaption>
</figure>
<p>私達は AI によって「信頼」を混同したまま強制されるわけだ。</p>
<figure lang="en">
<blockquote>Corporations are profit maximizers, at the expense of society. And the incentives of surveillance capitalism are just too much to resist.</blockquote>
<figcaption><div>via <q><a href="https://www.schneier.com/blog/archives/2023/12/ai-and-trust.html">AI and Trust</a></q></div></figcaption>
</figure>
<p>そして,これに規制をかけるのは政府の役割となる。</p>
<figure lang="en">
<blockquote>The more you can trust that your societal interactions are reliable and predictable, the more you can ignore their details. Places where governments don’t provide these things are not good places to live.</blockquote>
<figcaption><div>via <q><a href="https://www.schneier.com/blog/archives/2023/12/ai-and-trust.html">AI and Trust</a></q></div></figcaption>
</figure>
<p>“not good places to live” って今の日本社会のことか(笑)</p>
<p>それはともかく</p>
<figure lang="en">
<blockquote>Government can do this with AI. We need AI transparency laws. When it is used. How it is trained. What biases and tendencies it has. We need laws regulating AI—and robotic—safety. When it is permitted to affect the world. We need laws that enforce the trustworthiness of AI. Which means the ability to recognize when those laws are being broken. And penalties sufficiently large to incent trustworthy behavior.</blockquote>
<figcaption><div>via <q><a href="https://www.schneier.com/blog/archives/2023/12/ai-and-trust.html">AI and Trust</a></q></div></figcaption>
</figure>
<p>そのために多くの国が AI 規制について議論しているが,そこに大きな間違いがあるという。
つまり</p>
<figure lang="en">
<blockquote>Many countries are contemplating AI safety and security laws—the EU is the furthest along—but I think they are making a critical mistake. They try to regulate the AIs and not the humans behind them.</blockquote>
<figcaption><div>via <q><a href="https://www.schneier.com/blog/archives/2023/12/ai-and-trust.html">AI and Trust</a></q></div></figcaption>
</figure>
<p>ということだ。
何故なら AI は人間ではないから。</p>
<figure lang="en">
<blockquote>AIs are not people; they don’t have agency. They are built by, trained by, and controlled by people. Mostly for-profit corporations. Any AI regulations should place restrictions on those people and corporations. Otherwise the regulations are making the same category error I’ve been talking about. At the end of the day, there is always a human responsible for whatever the AI’s behavior is. And it’s the human who needs to be responsible for what they do—and what their companies do. Regardless of whether it was due to humans, or AI, or a combination of both.</blockquote>
<figcaption><div>via <q><a href="https://www.schneier.com/blog/archives/2023/12/ai-and-trust.html">AI and Trust</a></q></div></figcaption>
</figure>
<p>AI とは友達になれない。
でも AI を善いサービスにすることはできる。</p>
<figure lang="en">
<blockquote>We can never make AI into our friends. But we can make them into trustworthy services—agents and not double agents. But only if government mandates it. We can put limits on surveillance capitalism. But only if government mandates it.</blockquote>
<figcaption><div>via <q><a href="https://www.schneier.com/blog/archives/2023/12/ai-and-trust.html">AI and Trust</a></q></div></figcaption>
</figure>
<p>そのための政府ってことだよね。</p>
<figure lang="en">
<blockquote>To the extent a government improves the overall trust in society, it succeeds. And to the extent a government doesn’t, it fails.</blockquote>
<figcaption><div>via <q><a href="https://www.schneier.com/blog/archives/2023/12/ai-and-trust.html">AI and Trust</a></q></div></figcaption>
</figure>
<p>あれ? やっぱり日本政府って失敗してる?</p>
<p>このエッセイを読みながら5年前に書いた記事を思い出してた。</p>
<figure>
<blockquote>Amazon や Google などが提供する AI アシスタントの最大の問題はユーザがコントロールできないことにある。
喩えるなら百貨店の外商がリアルタイムで店と連携をとりつつ24時間家の中に張り付いているようなものだ。
「外商」が忠誠を誓うのは所属する店であり,客との関係は利害の一致を基本とした信頼関係に過ぎない。
これが「執事」なら向きが逆になる。
「執事」は主人に忠誠を誓うからこそ執事として機能するし主人は執事をコントロールできる。</blockquote>
<figcaption><div><q><a href="https://text.baldanders.info/remark/2018/04/ai-assistant/">AI アシスタントはユーザをアシストしない</a></q>より</div></figcaption>
</figure>
<p>結局そこに帰着するんだよなぁ。</p>
<p>そうそう。
関係ないが <del>「地上最大のロボット」</del> じゃない「PLUTO」のアニメ版が Netflix で公開されているらしい。
当時コミックをあれほど<a href="https://baldanders.info/spiegel/log/200605.html#d07_t2">絶賛した</a>のに,アニメはまだ観てないとか。
平日はアニメを観る気がしなくて,週末はチャリンコを乗り回して遊んでるので,やっぱりアニメは観なくなった。
このまま年を越してしまうのか…</p>
<h2>ブックマーク</h2>
<ul>
<li><a href="https://www.schneier.com/blog/archives/2023/12/ai-and-mass-spying.html">AI and Mass Spying - Schneier on Security</a></li>
<li><a href="https://wirelesswire.jp/2023/12/85735/">オープンソースの失われた10年と「オープンソースAI」の行方 – WirelessWire News</a></li>
<li><a href="https://text.baldanders.info/remark/2023/12/internet-as-a-monolithic-intelligence/">インターネットという単一知性</a></li>
</ul>
<h2>参考図書</h2>
<div class="hreview">
<div class="photo"><a href="https://www.amazon.co.jp/dp/4757143044?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1"><img src="https://m.media-amazon.com/images/I/413qoSjODUL._SL160_.jpg" width="108" alt="photo"></a></div>
<dl>
<dt class="item"><a class="fn url" href="https://www.amazon.co.jp/dp/4757143044?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1">信頼と裏切りの社会</a></dt>
<dd>ブルース・シュナイアー (著), 山形 浩生 (翻訳)</dd>
<dd>NTT出版 2013-12-24</dd>
<dd>単行本(ソフトカバー)</dd>
<dd>4757143044 (ASIN), 9784757143043 (EAN), 4757143044 (ISBN)</dd>
<dd>評価<abbr class="rating fa-sm" title="5"> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i></abbr></dd>
</dl>
<p class="description">社会における「信頼」とは。</p>
<p class="powered-by">reviewed by <a href='#maker' class='reviewer'>Spiegel</a> on <abbr class="dtreviewed" title="2015-11-28">2015-11-28</abbr> (powered by <a href="https://affiliate.amazon.co.jp/assoc_credentials/home">PA-APIv5</a>)</p>
</div> <!-- 信頼と裏切りの社会 -->
<div class="hreview">
<div class="photo"><a href="https://www.amazon.co.jp/dp/B01MZGVHOA?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1"><img src="https://m.media-amazon.com/images/I/51T6PBdGbyL._SL160_.jpg" width="108" alt="photo"></a></div>
<dl>
<dt class="item"><a class="fn url" href="https://www.amazon.co.jp/dp/B01MZGVHOA?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1">超監視社会</a></dt>
<dd>ブルース・シュナイアー (著), 池村 千秋 (翻訳)</dd>
<dd>草思社 2016-12-13 (Release 2017-02-03)</dd>
<dd>Kindle版</dd>
<dd>B01MZGVHOA (ASIN)</dd>
</dl>
<p class="description">実は積ん読のまま読んでない。そろそろちゃんと最後まで読まないと。</p>
<p class="powered-by">reviewed by <a href='#maker' class='reviewer'>Spiegel</a> on <abbr class="dtreviewed" title="2019-03-23">2019-03-23</abbr> (powered by <a href="https://affiliate.amazon.co.jp/assoc_credentials/home">PA-APIv5</a>)</p>
</div> <!-- 超監視社会 -->
<div class="hreview">
<div class="photo"><a href="https://www.amazon.co.jp/dp/B0CK19L1HC?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1"><img src="https://m.media-amazon.com/images/I/41iX72RfUuL._SL160_.jpg" width="108" alt="photo"></a></div>
<dl>
<dt class="item"><a class="fn url" href="https://www.amazon.co.jp/dp/B0CK19L1HC?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1">ハッキング思考 強者はいかにしてルールを歪めるのか、それを正すにはどうしたらいいのか</a></dt>
<dd>ブルース・シュナイアー (著), 高橋 聡 (翻訳)</dd>
<dd>日経BP 2023-10-12 (Release 2023-10-12)</dd>
<dd>Kindle版</dd>
<dd>B0CK19L1HC (ASIN)</dd>
<dd>評価<abbr class="rating fa-sm" title="5"> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i></abbr></dd>
</dl>
<p class="description">Kindle 版が出てた!</p>
<p class="powered-by">reviewed by <a href='#maker' class='reviewer'>Spiegel</a> on <abbr class="dtreviewed" title="2023-11-21">2023-11-21</abbr> (powered by <a href="https://affiliate.amazon.co.jp/assoc_credentials/home">PA-APIv5</a>)</p>
</div> <!-- ハッキング思考 Kindle 版 -->
<div class="hreview">
<div class="photo"><a href="https://www.amazon.co.jp/dp/B0BHYJKB5N?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1"><img src="https://m.media-amazon.com/images/I/51gl1i9n+WL._SL160_.jpg" width="113" alt="photo"></a></div>
<dl>
<dt class="item"><a class="fn url" href="https://www.amazon.co.jp/dp/B0BHYJKB5N?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1">PLUTO デジタルVer.(1) (ビッグコミックス)</a></dt>
<dd>浦沢直樹×手塚治虫 (著), 長崎尚志プロデュース (著), 手塚プロダクション (著), 手塚眞 (読み手)</dd>
<dd>小学館 2004-09-30 (Release 2022-10-28)</dd>
<dd>Kindle版</dd>
<dd>B0BHYJKB5N (ASIN)</dd>
<dd>評価<abbr class="rating fa-sm" title="5"> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i></abbr></dd>
</dl>
<p class="description">今までの浦沢直樹さんの作品の中で一番なんじゃないだろうか。地上最大のロボット」って実はあまり印象にないんだよねぇ。全集なんかで読み返すと当時は(時代を反映した)結構な問題作だったらしいが,敢えてそれを選ぶってのが凄いよなぁ。オリジナルのラストはちょっと切ないというか物足りない終わり方をしているのだが,浦沢版ではいったいどうなるのか。楽しみである。</p>
<p class="powered-by">reviewed by <a href='#maker' class='reviewer'>Spiegel</a> on <abbr class="dtreviewed" title="2006-05-07">2006-05-07</abbr> (powered by <a href="https://affiliate.amazon.co.jp/assoc_credentials/home">PA-APIv5</a>)</p>
</div> <!-- PLUTO -->
「AI の配当」
tag:text.Baldanders.info,2023-07-08:/remark/2023/07/the-ai-dividend/
2023-07-07T23:40:27+00:00
2023-07-07T23:41:39+00:00
Generative AI が sustainable かつ(まさに) generative に発展するための制度設計が必要だ,ということであろう。
Spiegel
https://baldanders.info/profile/
<p>Bruce Schneier 先生のエッセイより。</p>
<ul>
<li><a href="https://www.schneier.com/blog/archives/2023/07/the-ai-dividend.html">The AI Dividend - Schneier on Security</a></li>
</ul>
<p>冒頭からいきなりこんな文章(笑)</p>
<figure lang="en">
<blockquote>Everyone is talking about these new AI technologies—like ChatGPT—and AI companies are touting their awesome power. But they aren’t talking about how that power comes from all of us. Without all of our writings and photos that AI companies are using to train their models, they would have nothing to sell. <strong>Big Tech companies are currently taking the work of the American people, without our knowledge and consent, without licensing it, and are pocketing the proceeds</strong>.</blockquote>
<figcaption><div>via <q><a href="https://www.schneier.com/blog/archives/2023/07/the-ai-dividend.html">The AI Dividend</a></q></div></figcaption>
</figure>
<p>強調は私がやりました。</p>
<p>いわゆる「ビッグテック企業」によるこうした「搾取」に,私たちはどう対抗したらいいのか。
Bruce Schneier さんは,アラスカ州住民が石油収入からの配当を恒久的に受け取っているように,私たちも等しく AI 利益からの配当を受ける仕組みをつくればいいぢゃん,と提案する。
富の再配分を行うわけだ。</p>
<figure lang="en">
<blockquote>Our proposal is simple, and harkens back to the Alaskan plan. When Big Tech companies produce output from generative AI that was trained on public data, they would pay a tiny licensing fee, by the word or pixel or relevant unit of data. Those fees would go into the AI Dividend fund. Every few months, the Commerce Department would send out the entirety of the fund, split equally, to every resident nationwide. That’s it.</blockquote>
<figcaption><div>via <q><a href="https://www.schneier.com/blog/archives/2023/07/the-ai-dividend.html">The AI Dividend</a></q></div></figcaption>
</figure>
<p>この提案のポイントは<a href="https://text.baldanders.info/remark/2022/10/cultural-commons/" title="AI は「創作者様」を引きずり下ろすか — 『人権と文化コモンズ』を流し読む">特定の創作者様</a>ではなく “every resident nationwide” つまり全ての人が配当を受ける対象になることである。</p>
<figure lang="en">
<blockquote>There’s no reason to complicate it further. Generative AI needs a wide variety of data, which means all of us are valuable—not just those of us who write professionally, or prolifically, or well. Figuring out who contributed to which words the AIs output would be both challenging and invasive, given that even the companies themselves don’t quite know how their models work.</blockquote>
<figcaption><div>via <q><a href="https://www.schneier.com/blog/archives/2023/07/the-ai-dividend.html">The AI Dividend</a></q></div></figcaption>
</figure>
<p>件のエッセイは米国を念頭に書かれているが,当然ながら AI を通じた「搾取」は全世界(の人々)に及んでいる。
一国の問題ではないのだ。</p>
<p>このアイデアはシンプルで面白いと思うが,実現するためにはかなり綿密な制度設計が必要だろうし,本当に実現可能かどうかも分からない。
でも AI を通じた「搾取」は存在し,何らかの形でそれを再配分する仕組みが必要,というのはみんな考えるところだろう。</p>
<p>最後にエッセイでは</p>
<figure lang="en">
<blockquote>Don’t get us wrong; this isn’t an attempt to strangle this nascent technology. Generative AI has interesting, valuable, and possibly transformative uses, and this policy is aligned with that future. Even with the fees of the AI Dividend, generative AI will be cheap and will only get cheaper as technology improves. There are also risks—<a href="https://www.wired.com/story/large-language-model-phishing-scams/">both every day and esoteric</a>—posed by AI, and the government may need to develop policies to remedy any harms that arise.</blockquote>
<figcaption><div>via <q><a href="https://www.schneier.com/blog/archives/2023/07/the-ai-dividend.html">The AI Dividend</a></q></div></figcaption>
</figure>
<p>と釘を差している。
Generative AI を拒否・否定するのではなく,この技術が sustainable かつ(まさに) generative に発展するための制度設計が必要だ,ということであろう。</p>
<h2>参考文献</h2>
<div class="hreview">
<div class="photo"><a href="https://tatsu-zine.com/books/infoshare2"><img src="https://tatsu-zine.com/images/books/877/cover_s.jpg" width="106" alt="photo"></a></div>
<dl>
<dt class="item"><a class="fn url" href="https://tatsu-zine.com/books/infoshare2">もうすぐ絶滅するという開かれたウェブについて 続・情報共有の未来</a></dt>
<dd>yomoyomo (著)</dd>
<dd>達人出版会 2017-12-25 (Release 2019-03-02)</dd>
<dd>デジタル書籍</dd>
<dd>infoshare2 (tatsu-zine.com)</dd>
<dd>評価<abbr class="rating fa-sm" title="4"> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="far fa-star"></i></abbr></dd>
</dl>
<p class="description"><a href="https://wirelesswire.jp/author/yomoyomo/">WirelessWire News 連載</a>の書籍化。感想は<a href="https://text.baldanders.info/remark/2019/01/infoshare2/">こちら</a>。祝 <a href="https://www.amazon.co.jp/dp/B08DD2MC46?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1">Kindle 化</a>!</p>
<p class="powered-by">reviewed by <a href='#maker' class='reviewer'>Spiegel</a> on <abbr class="dtreviewed" title="2018-12-31">2018-12-31</abbr></p>
</div> <!-- 続・情報共有の未来 -->
<div class="hreview">
<div class="photo"><a href="https://tatsu-zine.com/books/infoshare"><img src="https://tatsu-zine.com/images/books/15/cover_s.jpg" width="106" alt="photo"></a></div>
<dl>
<dt class="item"><a class="fn url" href="https://tatsu-zine.com/books/infoshare">情報共有の未来</a></dt>
<dd>yomoyomo (著)</dd>
<dd>達人出版会 2011-12-30 (Release 2012-02-19)</dd>
<dd>デジタル書籍</dd>
<dd>infoshare (tatsu-zine.com)</dd>
<dd>評価<abbr class="rating fa-sm" title="4"> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="far fa-star"></i></abbr></dd>
</dl>
<p class="description">同名ブログの書籍化。感想は<a href="https://baldanders.info/blog/000611/">こちら</a>。</p>
<p class="powered-by">reviewed by <a href='#maker' class='reviewer'>Spiegel</a> on <abbr class="dtreviewed" title="2012-11-03">2012-11-03</abbr></p>
</div> <!-- 情報共有の未来 -->
<div class="hreview">
<div class="photo"><a href="https://www.aozora.gr.jp/cards/000021/card4307.html"><img src="https://text.baldanders.info/images/aozora/card4307.svg" width="110" alt="photo"></a></div>
<dl>
<dt class="item"><a class="fn url" href="https://www.aozora.gr.jp/cards/000021/card4307.html">グリゴリの捕縛</a></dt>
<dd>白田 秀彰</dd>
<dd> 2001-11-26 (Release 2014-09-17)</dd>
<dd>青空文庫</dd>
<dd>4307 (図書カードNo.)</dd>
<dd>評価<abbr class="rating fa-sm" title="4"> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="far fa-star"></i></abbr></dd>
</dl>
<p class="description">白田秀彰さんの「<a href="http://orion.mt.tama.hosei.ac.jp/hideaki/kenporon.htm">グリゴリの捕縛</a>」が青空文庫に収録されていた。
内容は <strike>怪獣大決戦</strike> おっと憲法(基本法)についてのお話。
古代社会 → 中世社会 → 近代社会 → 現代社会 と順を追って法と慣習そして力(power)との関係について解説し,その中で憲法(基本法)がどのように望まれ実装されていったか指摘してる。
その後,現代社会の次のパラダイムに顕現する「情報力」と社会との関係に言及していくわけだ。</p>
<p class="powered-by">reviewed by <a href='#maker' class='reviewer'>Spiegel</a> on <abbr class="dtreviewed" title="2019-03-30">2019-03-30</abbr> (powered by <a href="https://aozorahack.org/">aozorahack</a>)</p>
</div> <!-- グリゴリの捕縛 -->
Generative AI は Copyright-Safe か?
tag:text.Baldanders.info,2023-06-19:/remark/2023/06/is-generative-ai-copyright-safe/
2023-06-19T12:30:47+00:00
2023-06-19T23:07:28+00:00
文化庁の資料みても分からん
Spiegel
https://baldanders.info/profile/
<p>おー,久しぶりにこのセクションに書くな。
ここ最近いろいろあって,ブログ記事を書く気分じゃなかった。
まぁ,ここのポリシーは「書きたくないときには書かない」だから(笑) 徐々に復帰… できるといいねぇ。</p>
<h2>Generative AI は Copyright-Safe か?</h2>
<p>起点はこの記事。</p>
<ul>
<li><a href="https://www.bengo4.com/c_23/n_16133/">生成AI、画像の特徴が似ていれば「著作権侵害」にあたる? 文化庁の最新見解を読み解く - 弁護士ドットコム</a></li>
</ul>
<p>この記事で紹介されている文化庁の資料ってのがこれらしい。</p>
<figure>
<blockquote class="nobox" style='margin:0 auto;text-align:center;'>
<a href="https://www8.cao.go.jp/cstp/ai/ai_team/3kai/shiryo.pdf"><img src="./shiryo.png" srcset="./shiryo.png 1155w" sizes="(min-width:600px) 500px, 80vw" alt="AIと著作権の関係等について" loading="lazy"></a>
</blockquote>
<figcaption><div><q><a href="https://www8.cao.go.jp/cstp/ai/ai_team/3kai/shiryo.pdf">AIと著作権の関係等について</a></q>より</div></figcaption>
</figure>
<p>いやいや。
これじゃ分からんが! しょうがない。
最初に挙げた記事を参考に見ていこう。</p>
<figure>
<blockquote><p>著作権侵害の要件は大きく分けると「既存著作物との同一性・類似性」と「既存著作物への依拠性」の2つです。</p>
<p>前者の「既存著作物との同一性・類似性」について、AIは関係ありません。これまでの膨大な判例を元に、判断基準がほぼ確立しています。</p>
<p><strong>たとえ「作風・画風」が類似していたとしても、「同一性・類似性」があることにはなりません。これは文化庁の資料に記載されているとおりです。</strong></p>
</blockquote>
<figcaption><div><q><a href="https://www.bengo4.com/c_23/n_16133/">生成AI、画像の特徴が似ていれば「著作権侵害」にあたる? 文化庁の最新見解を読み解く</a></q>より</div></figcaption>
</figure>
<p>となると,問題は「既存著作物への依拠性」というわけだ。
これについて件の記事では以下のように示している。</p>
<figure>
<blockquote><p>(1)生成者が既存著作物を知っているか → 知っていれば依拠性あり、知らなければ(2)に</p>
<p>(2)既存著作物が学習用データに含まれているか →含まれていなければ依拠性なし、含まれていれば(3)へ</p>
<p>(3)当該学習用データ(画像)を学習過程で用いる際に、特定のテキストと、当該データ(画像)の表現上の本質的特徴が強固に結びついているか →結びついていなければ依拠性なし、結びついていれば(4)へ</p>
<p>(4) 利用段階で(3)における「特定のテキスト」をプロンプトとして入力しているか →入力していれば依拠性あり、入力していなければ依拠性なし(独自創作)</p>
</blockquote>
<figcaption><div><q><a href="https://www.bengo4.com/c_23/n_16133/">生成AI、画像の特徴が似ていれば「著作権侵害」にあたる? 文化庁の最新見解を読み解く</a></q>より</div></figcaption>
</figure>
<p>これならだいぶ分かりやすい。
フローチャートっぽく書くとこんな感じか。</p>
<div class="mermaid">
graph TB
A([start])-->B{生成者が既存著作物を\n知っているか}
B--知ってる-->Z([依拠姓あり])
B--知らない-->C{既存著作物が\n<b>学習用データ</b>に\n含まれているか}
C--含まれていない-->X([依拠姓なし])
C--含まれている-->D{<b>学習過程</b>で\n特定のテキストと\nデータが強固に\n結びついているか}
D--結びついていない-->X
D--結びついている-->E{特定のテキストを\n<b>プロンプト</b>として\n入力しているか}
E--入力していない-->X
E--入力している-->Z
</div><p>んー。
イマイチ。
まぁいいや。
これを見ると判断のポイントが3つあることが分かる。
すなわち</p>
<ol>
<li>学習用データ</li>
<li>学習過程</li>
<li>プロンプト</li>
</ol>
<p>である。</p>
<p>つまり生成物を公表する際,著作権侵害にあたるかどうかを判断するために上の3つの情報開示を要求される可能性があるということだ。
そして,この要求に応えられないサービスは copyright-safe とは言えないのではないかと思う。
また,利用者は生成時のプロンプトが(おそらくサービスプロバイダ経由で)開示される可能性を考慮する必要がある。</p>
<p>さらに記事では「AI開発・学習段階でも「著作権侵害」の可能性あり?」として</p>
<figure>
<blockquote><p>AIの文脈に即して少し抽象化すると「学習対象著作物の『表現上の本質的な特徴』を感じ取れるような著作物の作成を目的として、学習対象著作物から必要な情報を抽出する」行為と言い換えることができます。</p>
<p>要は「学習行為」(情報解析行為)であっても、当該学習行為の結果生成されたAIモデルからの出力が著作権侵害に該当する可能性がある場合には、享受利用に該当するという解釈なのでしょう。</p>
</blockquote>
<figcaption><div><q><a href="https://www.bengo4.com/c_23/n_16133/">生成AI、画像の特徴が似ていれば「著作権侵害」にあたる? 文化庁の最新見解を読み解く</a></q>より</div></figcaption>
</figure>
<p>と解説し,さらに</p>
<figure>
<blockquote><p><strong>この考え方は、「AI開発・学習段階」と「生成・利用段階」を分けて考えるべきとしつつ、結局「生成・利用段階」での著作権侵害の可能性を理由に、前段階である学習行為(情報解析行為)を制限しようとする考え方なので、条文解釈として個人的には疑問があります。</strong></p>
<p>「学習行為」というある著作物の利用行為の「享受」「非享受」の判断において、まだ現実に生じていない著作権侵害の可能性を考慮することができるのかということです。「どのような場合にAI学習を制限すべきか」という重要論点は、これからさらに議論が進んでいくのではないでしょうか。</p>
</blockquote>
<figcaption><div><q><a href="https://www.bengo4.com/c_23/n_16133/">生成AI、画像の特徴が似ていれば「著作権侵害」にあたる? 文化庁の最新見解を読み解く</a></q>より</div></figcaption>
</figure>
<p>と意見を述べている。
実は日本は言われているほど「AI 天国」ではないということかもしれない。</p>
<h2>【おまけ】 享有と享受</h2>
<p>話が横滑りしてスマン。</p>
<p>上で出てきた「享受」という法律用語は<a href="https://elaws.e-gov.go.jp/document?lawid=345AC0000000048" title="著作権法 | e-Gov法令検索">著作権法</a>の「著作権の制限」に出てくる。
たとえば第三十条の四は「著作物に表現された思想又は感情の享受を目的としない利用」について書かれている。</p>
<figure>
<blockquote><strong>第三十条の四</strong> 著作物は、次に掲げる場合その他の当該著作物に表現された思想又は感情を自ら享受し又は他人に享受させることを目的としない場合には、その必要と認められる限度において、いずれの方法によるかを問わず、利用することができる。ただし、当該著作物の種類及び用途並びに当該利用の態様に照らし著作権者の利益を不当に害することとなる場合は、この限りでない。</blockquote>
<figcaption><div><q><a href="https://elaws.e-gov.go.jp/document?lawid=345AC0000000048">著作権法</a></q>より</div></figcaption>
</figure>
<p>これで思い出したのが山田奨治さんの『<a href="https://www.amazon.co.jp/dp/B099RTG3J7?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1" title="著作権は文化を発展させるのか: 人権と文化コモンズ">著作権は文化を発展させるのか: 人権と文化コモンズ</a>』だった。
たとえば<a href="https://elaws.e-gov.go.jp/document?lawid=345AC0000000048" title="著作権法 | e-Gov法令検索">著作権法</a>第十七条「著作者の権利」には</p>
<figure>
<blockquote><strong>第十七条</strong> 著作者は、次条第一項、第十九条第一項及び第二十条第一項に規定する権利(以下「著作者人格権」という。)並びに第二十一条から第二十八条までに規定する権利(以下「著作権」という。)を享有する。</blockquote>
<figcaption><div><q><a href="https://elaws.e-gov.go.jp/document?lawid=345AC0000000048">著作権法</a></q>より</div></figcaption>
</figure>
<p>とある。
享有とか享受とかって難しい言葉がさらっと書いてあるよね。
しかも『<a href="https://www.amazon.co.jp/dp/B099RTG3J7?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1" title="著作権は文化を発展させるのか: 人権と文化コモンズ">人権と文化コモンズ</a>』には</p>
<figure>
<blockquote>実は民法でいう「私権の享有」は、辞書的な意味とはやや異なり権利能力(権利の主体となるができる法律上の資格、または地位)のことを言う。そして、「私権の享有は出生に始まる」は、「権利を持つのは、生まれた時からである」の意味になる(大村 2007:24)。「享有」はたんに「持つ」ことであって、「生まれながら」は含まない。(p.32)</blockquote>
<figcaption><div><q><a href="https://www.amazon.co.jp/dp/B099RTG3J7?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1">著作権は文化を発展させるのか: 人権と文化コモンズ</a></q>より</div></figcaption>
</figure>
<p>とか書いてあって「うへぇ」となった。
『<a href="https://www.amazon.co.jp/dp/B099RTG3J7?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1" title="著作権は文化を発展させるのか: 人権と文化コモンズ">人権と文化コモンズ</a>』には享有や専有といった用語についてかなり深く考察しているので,読んでみることをお勧めする。</p>
<p>享受は享有と対になる言葉っぽいが,英語ではどちらも enjoy が法律用語として充てられているそうな(これも『<a href="https://www.amazon.co.jp/dp/B099RTG3J7?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1" title="著作権は文化を発展させるのか: 人権と文化コモンズ">人権と文化コモンズ</a>』に書いてあった)。
前節の記事に出てくる「享受」を脳内で enjoy と読み直せばもう少し分かりやすくなるかもしれない(笑)</p>
<p>法律(用語)は難しいぜ。</p>
<h2>ブックマーク</h2>
<ul>
<li><a href="https://wirelesswire.jp/2023/06/84905/">ウェブをますます暗い森にし、人間の能力を増強する新しい仲間としての生成AI – WirelessWire News</a></li>
<li><a href="https://text.baldanders.info/remark/2022/10/cultural-commons/">AI は「創作者様」を引きずり下ろすか — 『人権と文化コモンズ』を流し読む</a></li>
</ul>
<h2>参考文献</h2>
<div class="hreview">
<div class="photo"><a href="https://www.amazon.co.jp/dp/B099RTG3J7?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1"><img src="https://m.media-amazon.com/images/I/51TsccJ7LnS._SL160_.jpg" width="112" alt="photo"></a></div>
<dl>
<dt class="item"><a class="fn url" href="https://www.amazon.co.jp/dp/B099RTG3J7?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1">著作権は文化を発展させるのか: 人権と文化コモンズ</a></dt>
<dd>山田 奨治 (著)</dd>
<dd>人文書院 2021-07-29 (Release 2021-07-29)</dd>
<dd>Kindle版</dd>
<dd>B099RTG3J7 (ASIN)</dd>
<dd>評価<abbr class="rating fa-sm" title="5"> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i></abbr></dd>
</dl>
<p class="description">著作権を「ユーザーの人権」という観点から捉え直す。その後 文化→コモンズ→文化コモンズ と進み,本当の意味で「文化の発展に寄与する」とはどういうことか考察していく。
</p>
<p class="powered-by">reviewed by <a href='#maker' class='reviewer'>Spiegel</a> on <abbr class="dtreviewed" title="2022-10-23">2022-10-23</abbr> (powered by <a href="https://affiliate.amazon.co.jp/assoc_credentials/home">PA-APIv5</a>)</p>
</div> <!-- 著作権は文化を発展させるのか: 人権と文化コモンズ -->
<div class="hreview">
<div class="photo"><a href="https://www.amazon.co.jp/dp/B0BXQ2HMQ5?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1"><img src="https://m.media-amazon.com/images/I/51RHpNwG41L._SL160_.jpg" width="120" alt="photo"></a></div>
<dl>
<dt class="item"><a class="fn url" href="https://www.amazon.co.jp/dp/B0BXQ2HMQ5?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1">日経サイエンス2023年5月号(特集:対話するAI ChatGPT)</a></dt>
<dd>日経サイエンス編集部 (編集)</dd>
<dd>日経サイエンス 2023-03-25 (Release 2023-03-25)</dd>
<dd>雑誌</dd>
<dd>B0BXQ2HMQ5 (ASIN), 4910071150534 (EAN)</dd>
<dd>評価<abbr class="rating fa-sm" title="4"> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="far fa-star"></i></abbr></dd>
</dl>
<p class="description">特集記事が「話す AI 描く AI」ということで,いわゆる Generative AI に関する内容。大規模言語モデル(LLM)の解説も載っている。圏論の記事もあるよ。</p>
<p class="powered-by">reviewed by <a href='#maker' class='reviewer'>Spiegel</a> on <abbr class="dtreviewed" title="2023-03-28">2023-03-28</abbr> (powered by <a href="https://affiliate.amazon.co.jp/assoc_credentials/home">PA-APIv5</a>)</p>
</div> <!-- 日経サイエンス2023年5月号(特集:対話するAI ChatGPT) -->
OpenAI API を使って GPT と遊ぶ gpt-cli をリリースした。
tag:text.Baldanders.info,2023-03-28:/release/2023/03/released-gpt-cli/
2023-03-28T11:49:13+00:00
2023-03-28T11:55:26+00:00
先日書いたとおり,ちょっと真面目に ChatGPT で遊んでみることにした。
Spiegel
https://baldanders.info/profile/
<h2>OpenAI API で遊びたい</h2>
<p><a href="https://text.baldanders.info/remark/2023/03/practice-on-the-wall/" title="ChatGPT という壁打ち">先日書いた</a>とおり,ちょっと真面目に ChatGPT で遊んでみることにした。
んで,とりあえず Web ブラウザでチャットは何かと辛いので,コマンドライン・ツールで近い機能が実装できないかなぁ,と物色してみたら</p>
<ul>
<li><a href="https://github.com/sashabaranov/go-openai" title="sashabaranov/go-openai: OpenAI ChatGPT, GPT-3, GPT-4, DALL·E, Whisper API wrapper for Go">sashabaranov/go-openai: OpenAI ChatGPT, GPT-3, GPT-4, DALL·E, Whisper API wrapper for Go</a></li>
</ul>
<p>というパッケージを使うのが<a href="https://zenn.dev/spiegel/scraps/fa5fcc9f7f1781" title="ターミナルで ChatGPT とお話するための #golang コード">よさげ</a>である。</p>
<p>というわけで,このパッケージを用いた CLI ツールを作ってみた。</p>
<ul>
<li><a href="https://github.com/goark/gpt-cli">goark/gpt-cli: CLI tool for GPT with OpenAI API</a></li>
</ul>
<p>ぶっちゃけ,この手のツールはみんな思いつくようで, <a href="https://go.dev/">Go</a> 製のものだけでもそこそこ見かける。
でも,まぁ,こういうのは実際にコードを書いて動かしてみないと理解できなかったりするからねぇ。
N番煎じはご容赦を。</p>
<p>拙作の場合はこんな感じ。</p>
<div class="highlight"><pre tabindex="0" class="chroma"><code class="language-text" data-lang="text"><span class="line"><span class="cl">$ gpt-cli -h
</span></span><span class="line"><span class="cl">CLI tool for GPT with OpenAI API.
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">Usage:
</span></span><span class="line"><span class="cl"> gpt-cli [flags]
</span></span><span class="line"><span class="cl"> gpt-cli [command]
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">Available Commands:
</span></span><span class="line"><span class="cl"> chat Chat with GPT-x
</span></span><span class="line"><span class="cl"> help Help about any command
</span></span><span class="line"><span class="cl"> version Print the version number
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">Flags:
</span></span><span class="line"><span class="cl"> --api-key string OpenAI API key
</span></span><span class="line"><span class="cl"> --config string Config file (default /home/username/.config/gpt-cli/config.yaml)
</span></span><span class="line"><span class="cl"> --debug for debug
</span></span><span class="line"><span class="cl"> -h, --help help for gpt-cli
</span></span><span class="line"><span class="cl"> --log-dir string Directory for log files (default "/home/username/.cache/gpt-cli")
</span></span><span class="line"><span class="cl"> --log-level string Log level [nop|error|warn|info|debug|trace] (default "nop")
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">Use "gpt-cli [command] --help" for more information about a command.
</span></span></code></pre></div><p>今のところはチャット機能しかないが, <a href="https://github.com/sashabaranov/go-openai" title="sashabaranov/go-openai: OpenAI ChatGPT, GPT-3, GPT-4, DALL·E, Whisper API wrapper for Go">sashabaranov/go-openai</a> を使えば,いま話題沸騰(笑)の GPT-4 や DALL·E, Whisper あたりもハンドリングできるみたいなので,そのうち挑戦してみたいと思っている。
ちなみに GPT-4 は申請中だが,しばらく順番は回ってこないだろうな。</p>
<h2>OpenAI API Key を取得する</h2>
<p>拙作を動かす場合は <a href="https://platform.openai.com/">OpenAI API</a> Key を取得する必要がある。
取得方法は適当にググってください。
<a href="https://platform.openai.com/">OpenAI</a> のアカウントを取ると,最初は無料だけど,無料枠を使い切ると有料(従量制)になるのでご注意を。</p>
<p>で, <a href="https://platform.openai.com/">OpenAI API</a> Key はコマンドラインで指定することもできるけど,設定ファイルに記述しておくことができる。
規定ファイルは <code>$XDG_CONFIG_HOME/gpt-cli/config.yaml</code>。
中身は YAML 形式で,こんな感じに記述できる。</p>
<div class="highlight"><pre tabindex="0" class="chroma"><code class="language-yaml" data-lang="yaml"><span class="line"><span class="cl"><span class="nt">api-key</span><span class="p">:</span><span class="w"> </span><span class="l">your_api_key_string</span><span class="w">
</span></span></span></code></pre></div><p>Linux の場合は, <code>$XDG_CONFIG_HOME</code> は <code>$HOME/.config/</code> ディレクトリに割り当てられていることが多い。
Windows だと <code>%AppData%</code> フォルダ, macOS (Darwin) だと <code>$HOME/Library/Application/</code> フォルダになる。
コマンドラインの <code>--config</code> オプションで設定ファイルを指定することもできる。</p>
<h2>GPT とチャットする</h2>
<div class="highlight"><pre tabindex="0" class="chroma"><code class="language-text" data-lang="text"><span class="line"><span class="cl">$ gpt-cli chat -h
</span></span><span class="line"><span class="cl">Chat with GPT-x, input from standard input.
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">Usage:
</span></span><span class="line"><span class="cl"> gpt-cli chat [flags]
</span></span><span class="line"><span class="cl"> gpt-cli chat [command]
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">Aliases:
</span></span><span class="line"><span class="cl"> chat, c
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">Available Commands:
</span></span><span class="line"><span class="cl"> history Print chat history
</span></span><span class="line"><span class="cl"> interactive Interactive mode
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">Flags:
</span></span><span class="line"><span class="cl"> -a, --attach-file strings Path of attach files (text file only)
</span></span><span class="line"><span class="cl"> -c, --clipboard Input message from clipboard
</span></span><span class="line"><span class="cl"> -h, --help help for chat
</span></span><span class="line"><span class="cl"> -m, --message string Chat message
</span></span><span class="line"><span class="cl"> -p, --prepare-file string Path of prepare file (JSON format)
</span></span><span class="line"><span class="cl"> -f, --save-file string Path of save file (JSON format)
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">Global Flags:
</span></span><span class="line"><span class="cl"> --api-key string OpenAI API key
</span></span><span class="line"><span class="cl"> --config string Config file (default /home/username/.config/gpt-cli/config.yaml)
</span></span><span class="line"><span class="cl"> --debug for debug
</span></span><span class="line"><span class="cl"> --log-dir string Directory for log files (default "/home/username/.cache/gpt-cli")
</span></span><span class="line"><span class="cl"> --log-level string Log level [nop|error|warn|info|debug|trace] (default "nop")
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">Use "gpt-cli chat [command] --help" for more information about a command.
</span></span></code></pre></div><p>いちばん簡単な使い方は以下の通り(<a href="https://platform.openai.com/">OpenAI API</a> Key は設定ファイルに記述済みとする)。</p>
<div class="highlight"><pre tabindex="0" class="chroma"><code class="language-text" data-lang="text"><span class="line"><span class="cl">$ gpt-cli c -m "hello"
</span></span><span class="line"><span class="cl">Hello! How can I help you today?
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">save to /home/username/.cache/gpt-cli/chat.2133582955.json
</span></span></code></pre></div><p><a href="https://platform.openai.com/">OpenAI API</a> を使って “<code>hello</code>” と投げると “<code>Hello! How can I help you today?</code>” と返ってきた。
最後に,やり取りの記録を <code>$XDG_CACHE_HOME/gpt-cli/chat.*.json</code> ファイル<sup id="fnref:1"><a href="#fn:1" class="footnote-ref" role="doc-noteref">1</a></sup> に格納して終了(保存先は <code>--save-file</code> または <code>-f</code> オプションで指定できる)。
そして,次に起動するときは <code>--prepare-file</code> または <code>-p</code> オプションで記録を格納したファイルを指定すれば続きから始められる。</p>
<p><code>--prepare-file</code> オプションを使うことで初期状態をある程度いじることができる。
<code>--prepare-file</code> オプションで指定するファイルは JSON 形式で,たとえば</p>
<div class="highlight"><pre tabindex="0" class="chroma"><code class="language-json" data-lang="json"><span class="line"><span class="cl"><span class="p">{</span>
</span></span><span class="line"><span class="cl"> <span class="nt">"model"</span><span class="p">:</span> <span class="s2">"gpt-3.5-turbo-0301"</span><span class="p">,</span>
</span></span><span class="line"><span class="cl"> <span class="nt">"max_tokens"</span><span class="p">:</span> <span class="mi">256</span><span class="p">,</span>
</span></span><span class="line"><span class="cl"> <span class="nt">"temperature"</span><span class="p">:</span> <span class="mf">0.7</span><span class="p">,</span>
</span></span><span class="line"><span class="cl"> <span class="nt">"messages"</span><span class="p">:</span> <span class="p">[</span>
</span></span><span class="line"><span class="cl"> <span class="p">{</span>
</span></span><span class="line"><span class="cl"> <span class="nt">"role"</span><span class="p">:</span> <span class="s2">"system"</span><span class="p">,</span>
</span></span><span class="line"><span class="cl"> <span class="nt">"content"</span><span class="p">:</span> <span class="s2">"これからプログラムのコードを渡すので,質問に答えてください。"</span>
</span></span><span class="line"><span class="cl"> <span class="p">}</span>
</span></span><span class="line"><span class="cl"> <span class="p">]</span>
</span></span><span class="line"><span class="cl"><span class="p">}</span>
</span></span></code></pre></div><p>などと記述しておいて,これを <code>--prepare-file</code> オプションで読み込ませて初期状態にできる。</p>
<h3>チャットにファイルを添付する</h3>
<p><code>--attach-file</code> または <code>-a</code> オプションを使ってファイルを添付して評価してもらうこともできる。
こんな感じ。</p>
<div class="highlight"><pre tabindex="0" class="chroma"><code class="language-text" data-lang="text"><span class="line"><span class="cl">$ cat sample/hello.go
</span></span><span class="line"><span class="cl">package main
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">import "fmt"
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">func main() {
</span></span><span class="line"><span class="cl"> fmt.Println("Hello, world.")
</span></span><span class="line"><span class="cl">}
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">$ gpt-cli c -a sample/hello.go -m "Summarize the source code below."
</span></span><span class="line"><span class="cl">The source code is a basic program in the Go programming language that prints the text "Hello, world." to the console. It includes the standard library package "fmt" and a main function that utilizes the "Println" function from the "fmt" package.
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">save to /home/username/.cache/gpt-cli/chat.3658387869.json
</span></span></code></pre></div><p><code>--attach-file</code> オプションを複数使って複数のファイルを指定することが可能。
また <code>*.go</code> みたいなワイルドカード指定もできる(bash 上などではファイル名が勝手に展開されてしまうので <code>"*.go"</code> のように引用符で囲むとよい)。</p>
<h3>クリップボードの内容をメッセージとして送信する</h3>
<p><code>--clipboard</code> または <code>-c</code> オプションを指定することでクリップボードの内容をメッセージとして送信できる。</p>
<p>たとえば上述の <code>sample/hello.go</code> の内容をクリップボードにコピーした上で</p>
<div class="highlight"><pre tabindex="0" class="chroma"><code class="language-text" data-lang="text"><span class="line"><span class="cl">$ gpt-cli c -c -m "次のコードを要約してください。"
</span></span><span class="line"><span class="cl">このコードは、mainパッケージをインポートし、"Hello, world."という文字列を出力するプログラムです。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">save to /home/username/.cache/gpt-cli/chat.2878035472.json
</span></span></code></pre></div><p>などとできる。
送信の順番は <code>--message</code> オプションで指定した文字列 → クリップボードの内容 → 添付ファイル の順に送信される。</p>
<h2>対話モード</h2>
<div class="highlight"><pre tabindex="0" class="chroma"><code class="language-text" data-lang="text"><span class="line"><span class="cl">$ gpt-cli chat interactive -h
</span></span><span class="line"><span class="cl">Interactive mode in chat.
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">Usage:
</span></span><span class="line"><span class="cl"> gpt-cli chat interactive [flags]
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">Aliases:
</span></span><span class="line"><span class="cl"> interactive, i
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">Flags:
</span></span><span class="line"><span class="cl"> -h, --help help for interactive
</span></span><span class="line"><span class="cl"> -p, --profile string Path of profile file (JSON format)
</span></span><span class="line"><span class="cl"> -f, --save-file string Path of save file (JSON format)
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">Global Flags:
</span></span><span class="line"><span class="cl"> --api-key string OpenAI API key
</span></span><span class="line"><span class="cl"> --config string Config file (default /home/username/.config/gpt-cli/config.yaml)
</span></span><span class="line"><span class="cl"> --debug for debug
</span></span><span class="line"><span class="cl"> --log-dir string Directory for log files (default "/home/username/.cache/gpt-cli")
</span></span><span class="line"><span class="cl"> --log-level string Log level [nop|error|warn|info|debug|trace] (default "nop")
</span></span></code></pre></div><p>こんな感じに使える。</p>
<div class="highlight"><pre tabindex="0" class="chroma"><code class="language-text" data-lang="text"><span class="line"><span class="cl">$ gpt-cli c i
</span></span><span class="line"><span class="cl">Input 'q' or 'quit' to stop
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">Chat> こんにちは
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">こんにちは!私はAIのアシスタントです。何かお手伝いできることがありますか?
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">Chat> 科学雑誌の日経サイエンスにChatGPTの特集が載るそうです。どんな内容になるか予想してみましょう。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">ChatGPTとは、人工知能による自然言語処理を利用した対話型のチャットボットです。日経サイエンスがChatGPTに特集を組むことから、以下のような予想が考えられます。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">1. ChatGPTの機能や特徴の紹介
</span></span><span class="line"><span class="cl">ChatGPTの性能、動作原理などの詳しい解説や、どのような機能があるのか、どのような場面で活躍するのかなどが紹介される可能性があります。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">2. ChatGPTの応用例の紹介
</span></span><span class="line"><span class="cl">ChatGPTが活用される応用例として、カスタマーサポート、医療支援、人工知能アシスタントなどがあります。特集では、ChatGPTがどのようにこれらの分野で活躍しているのか、具体例を交えて解説されるかもしれません。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">3. ChatGPTの進化と今後の展望について
</span></span><span class="line"><span class="cl">ChatGPTは、自然言語処理分野での革新的な技術であり、今後、ますます進化していくことが期待されています。特集では、今後どのような改良がされ、また、普及の度合いがどこまで広がるのか、その展望についても取り上げられるかもしれません。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">Chat> ありがとうございます。雑誌を読むのが楽しみです
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">どういたしまして。日経サイエンスは、科学技術に関する話題や最新の研究成果などが掲載され、とても興味深く読める雑誌ですね。ChatGPTに特集が組まれるということで、ますます注目が集まりそうですね。楽しみにしていてください。
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">Chat> q
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">save to /home/username/.cache/gpt-cli/chat.2788390222.json
</span></span></code></pre></div><p>入力は1行のみ可(複数行編集の実装は保留中)。
ファイルの添付とかもできない。
本当に文章で対話するだけ(笑)</p>
<h2>チャット履歴を表示</h2>
<div class="highlight"><pre tabindex="0" class="chroma"><code class="language-text" data-lang="text"><span class="line"><span class="cl">$ gpt-cli chat history -h
</span></span><span class="line"><span class="cl">Print chat history.
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">Usage:
</span></span><span class="line"><span class="cl"> gpt-cli chat history [flags]
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">Aliases:
</span></span><span class="line"><span class="cl"> history, hist, h
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">Flags:
</span></span><span class="line"><span class="cl"> -a, --assistant-name string Assistant name (display name)
</span></span><span class="line"><span class="cl"> -h, --help help for history
</span></span><span class="line"><span class="cl"> -f, --history-file string Path of history file (JSON format)
</span></span><span class="line"><span class="cl"> -u, --user-name string User name (display name)
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">Global Flags:
</span></span><span class="line"><span class="cl"> --api-key string OpenAI API key
</span></span><span class="line"><span class="cl"> --config string Config file (default /home/username/.config/gpt-cli/config.yaml)
</span></span><span class="line"><span class="cl"> --debug for debug
</span></span><span class="line"><span class="cl"> --log-dir string Directory for log files (default "/home/username/.cache/gpt-cli")
</span></span><span class="line"><span class="cl"> --log-level string Log level [nop|error|warn|info|debug|trace] (default "nop")
</span></span></code></pre></div><p>最後に出力される記録ファイルを読み込んで markdown 風のテキストに整形して出力できる。
オマケ機能。
こんな感じ。</p>
<div class="highlight"><pre tabindex="0" class="chroma"><code class="language-text" data-lang="text"><span class="line"><span class="cl">$ gpt-cli c h -u Spiegel -a ChatGPT -f /home/username/.cache/gpt-cli/chat.2133582955.json
</span></span><span class="line"><span class="cl"># Chat with GPT
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">- `model`: gpt-3.5-turbo-0301
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">## Spiegel
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">hello
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">## ChatGPT
</span></span><span class="line"><span class="cl">
</span></span><span class="line"><span class="cl">Hello! How can I help you today?
</span></span></code></pre></div><p>ChatGPT とのやりとりを <a href="https://gist.github.com/spiegel-im-spiegel">Gist に上げたり</a>してるんだけど,手動で整形するのが面倒くさくて(笑)</p>
<h2>よっしゃ,今日はこれぐらいにしといたるわ</h2>
<p>というわけで,今回はこのへんで。
しばらく遊んでみて,必要なら機能を足すかも知れん。
こうやって,ツールがカオスになっていくんだねぇ(笑)</p>
<h2>ブックマーク</h2>
<ul>
<li><a href="https://japan.zdnet.com/article/35201375/">ChatGPTに回答の参考文献を提示させるには - ZDNET Japan</a></li>
<li><a href="https://zenn.dev/u_u/articles/54902c757ffce5">ChatGPTのプロンプトをLispで書く</a></li>
<li><a href="https://qiita.com/kznrluk/items/6d5ecd22c1b19d3e1d56">ChatGPTで開発効率アップ!askiを使ったCLIコードレビュー&バグ特定 - Qiita</a></li>
<li><a href="https://dev.to/disukharev/top-3-open-source-ai-tools-for-programmers-4oed">TOP 3 open-source AI to code like a PRO 🧠 🤖 - DEV Community</a></li>
<li><a href="https://zetamatta.hatenablog.com/entry/2023/03/24/233301">go-readline-ny でマルチライン編集 - 標準愚痴出力</a></li>
</ul>
<h2>参考図書</h2>
<div class="hreview">
<div class="photo"><a href="https://www.amazon.co.jp/dp/B0BXQ2HMQ5?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1"><img src="https://m.media-amazon.com/images/I/51RHpNwG41L._SL160_.jpg" width="120" alt="photo"></a></div>
<dl>
<dt class="item"><a class="fn url" href="https://www.amazon.co.jp/dp/B0BXQ2HMQ5?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1">日経サイエンス2023年5月号(特集:対話するAI ChatGPT)</a></dt>
<dd>日経サイエンス編集部 (編集)</dd>
<dd>日経サイエンス 2023-03-25 (Release 2023-03-25)</dd>
<dd>雑誌</dd>
<dd>B0BXQ2HMQ5 (ASIN), 4910071150534 (EAN)</dd>
<dd>評価<abbr class="rating fa-sm" title="4"> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="far fa-star"></i></abbr></dd>
</dl>
<p class="description">特集記事が「話す AI 描く AI」ということで,いわゆる Generative AI に関する内容。大規模言語モデル(LLM)の解説も載っている。圏論の記事もあるよ。</p>
<p class="powered-by">reviewed by <a href='#maker' class='reviewer'>Spiegel</a> on <abbr class="dtreviewed" title="2023-03-28">2023-03-28</abbr> (powered by <a href="https://affiliate.amazon.co.jp/assoc_credentials/home">PA-APIv5</a>)</p>
</div> <!-- 日経サイエンス2023年5月号(特集:対話するAI ChatGPT) -->
<div class="hreview">
<div class="photo"><a href="https://www.amazon.co.jp/dp/B099928SJD?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1"><img src="https://m.media-amazon.com/images/I/416Stewy0NS._SL160_.jpg" width="123" alt="photo"></a></div>
<dl>
<dt class="item"><a class="fn url" href="https://www.amazon.co.jp/dp/B099928SJD?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1">プログラミング言語Go</a></dt>
<dd>アラン・ドノバン (著), ブライアン・カーニハン (著), 柴田芳樹 (著)</dd>
<dd>丸善出版 2016-06-20 (Release 2021-07-13)</dd>
<dd>Kindle版</dd>
<dd>B099928SJD (ASIN)</dd>
<dd>評価<abbr class="rating fa-sm" title="5"> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i></abbr></dd>
</dl>
<p class="description">Kindle 版出た! 一部内容が古びてしまったが,この本は Go 言語の教科書と言ってもいいだろう。感想は<a href="https://text.baldanders.info/remark/2016/07/go-programming-language/" >こちら</a>。</p>
<p class="powered-by">reviewed by <a href='#maker' class='reviewer'>Spiegel</a> on <abbr class="dtreviewed" title="2021-05-22">2021-05-22</abbr> (powered by <a href="https://affiliate.amazon.co.jp/assoc_credentials/home">PA-APIv5</a>)</p>
</div> <!-- プログラミング言語Go -->
<div class="hreview">
<div class="photo"><a href="https://www.amazon.co.jp/dp/B09C2XBC2F?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1"><img src="https://m.media-amazon.com/images/I/31PDIZXO9tL._SL160_.jpg" width="160" alt="photo"></a></div>
<dl>
<dt class="item"><a class="fn url" href="https://www.amazon.co.jp/dp/B09C2XBC2F?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1">デベロッパーゴースーパーゴラン Tシャツ</a></dt>
<dd>Geek Go Super Golang Tees</dd>
<dd>ウェア&シューズ</dd>
<dd>B09C2XBC2F (ASIN)</dd>
<dd>評価<abbr class="rating fa-sm" title="4"> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="far fa-star"></i></abbr></dd>
</dl>
<p class="description">ついカッとなってポチった。反省はしない</p>
<p class="powered-by">reviewed by <a href='#maker' class='reviewer'>Spiegel</a> on <abbr class="dtreviewed" title="2022-04-10">2022-04-10</abbr> (powered by <a href="https://affiliate.amazon.co.jp/assoc_credentials/home">PA-APIv5</a>)</p>
</div> <!-- Golang Tシャツ -->
<div class="footnotes" role="doc-endnotes">
<hr>
<ol>
<li id="fn:1">
<p>Linux では <code>$XDG_CACHE_HOME</code> は <code>$HOME/.cache/</code> ディレクトリに割り当てられていることが多い。 Windows だと <code>%LocalAppData%</code> フォルダ, macOS (Darwin) だと <code>$HOME/Library/Caches/</code> フォルダになる。 <a href="#fnref:1" class="footnote-backref" role="doc-backlink">↩︎</a></p>
</li>
</ol>
</div>
ChatGPT という壁打ち
tag:text.Baldanders.info,2023-03-19:/remark/2023/03/practice-on-the-wall/
2023-03-19T12:43:57+00:00
2023-03-28T11:50:11+00:00
改めて OpenAI にアカウントを作った
Spiegel
https://baldanders.info/profile/
<p>先日から『<a href="https://www.amazon.co.jp/dp/4571210450?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1" title="はじめて学ぶ ビデオゲームの心理学 脳のはたらきとユーザー体験(UX) | セリア ホデント, 山根 信二, 成田 啓行 |本 | 通販 | Amazon">はじめて学ぶ ビデオゲームの心理学</a>』という本をちょっとずつ読み始めている。
この本の感想はいずれ書くとして,この本に</p>
<figure>
<blockquote>ビデオゲームをはじめ各種のゲームは、ツールでないという点で、ほかの製品と少し違います。ビデオゲームは外部の目標に向かってプレイするものではなく、プレイ自体が目的になる、自己目的的な活動です。私たちはゲームを通じてシステムに働きかけ、その反応を楽しみます。</blockquote>
<figcaption><div><q><a href="https://www.amazon.co.jp/dp/4571210450?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1">『はじめて学ぶ ビデオゲームの心理学』p.39</a></q>より</div></figcaption>
</figure>
<p>と書かれているのを見て,その前に見た</p>
<figure style='margin:0 auto;text-align:center;'>
<blockquote class="twitter-tweet"><p lang="ja" dir="ltr">おもちゃが手に入ったときの草の根活動は日本最強だと思うんですよね。事業化するのがとにかく下手 <a href="https://t.co/d43QS8F4h7">https://t.co/d43QS8F4h7</a></p>— odashi (@odashi_t) <a href="https://twitter.com/odashi_t/status/1634252815882391554?ref_src=twsrc%5Etfw">March 10, 2023</a></blockquote>
</figure>
<p>という tweet を思い出した。</p>
<p>もの凄い個人的な意見を言わせていただければ AI でプログラマが失業するかもしれないなんて話は完全に想定内なのよ。
つい40年前には「キーパンチャー」とか「コーダー」とかいう(今は絶滅した)職業が存在してたんだぜ。
プログラマみたいな(頭脳)労働集約的な職業が近い将来なくなったとしても全く不思議ではないだろう。</p>
<p>たとえば「Linux のメンテナを AI に一任することになりました」とか「Eマスク氏が AI を使って Twitter を自分好みに全面改修しました」みたいな話が起きれば本格的に(職業をかわるという意味での)転職を考えないといけなくなるだろうが,たかだか学部生の宿題レベルが解ける程度なら,鼻の先は驚異でも脅威でもない(日進月歩という意味では凄いと思うけど)。</p>
<p>話が逸れた。
逸れたついでに…</p>
<p>恥ずかしながら中学時代はテニス部だったのだが<sup id="fnref:1"><a href="#fn:1" class="footnote-ref" role="doc-noteref">1</a></sup>,運動神経が壊滅してる私は「壁打ち」で練習することが多かった。
「壁打ち」って奥が深いよね。
どの方向にどういう強さ打って,球にどう回転を加えれば,思い通りの球が返ってくるか。
まさに物理学だよね。</p>
<p>私の中で ChatGPT は何となく「壁打ち」なイメージなんだよなぁ。
インプットに対するアウトプットを見ながら次のインプットを調整していく。
フィードバックを行うのは機械(=壁)じゃなくて人間のほうだよね。</p>
<p>というような思いつきを Mastodon に投稿したら</p>
<figure>
<blockquote class="nobox center">
<iframe src="https://social.hyuki.net/@hyuki/110046769146123924/embed" class="mastodon-embed" style="max-width: 100%; border: 0" width="400" allowfullscreen="allowfullscreen"></iframe>
</blockquote></figure>
<p>というリアクションをいただいた。
ありがたや。</p>
<p>結城浩さんといえば最近</p>
<ul>
<li><a href="https://gist.github.com/hyuki/f7218870ae47847eab066545b8b51d05">ChatGPT と結城浩の対話(矛盾や反復を含んだ対話によってAIと人間の識別は行えるか) · GitHub</a></li>
</ul>
<p>というのを公開されていて,これは凄いと思った。
対話というのはお互いの間で「文脈(context)」を生成・共有する必要があるが,パッと見た限りでは両者の間に「文脈」があるように見える。
もっとも ChatGPT については</p>
<figure style='margin:0 auto;text-align:center;'>
<blockquote class="twitter-tweet"><p lang="ja" dir="ltr">ChatGPTと会話していると、記憶力があるように錯覚するけれど、APIで使う人はわかるように、記憶はなく(ステートレスで)、今までの会話の全記録(ただし長さ制限あり)と新しい質問を入力して、新しい回答を生成するだけ。密かに悪巧みを考えることもできない(SFに出てくるAGIではない)</p>— Haruhiko Okumura (@h_okumura) <a href="https://twitter.com/h_okumura/status/1637280594534211584?ref_src=twsrc%5Etfw">March 19, 2023</a></blockquote>
</figure>
<p>なんだそうで,そうなると少なくとも ChatGPT 側は「文脈」と言えるものを持ってないことになる?</p>
<p>「ゲーム」の面白さのひとつは,「ゲーム」というブラックボックスに対して何某かの入力を行いそれに対する反応をフィードバックして次の入力を行う,という繰り返しで対象への「理解」を深めることにあり,それ自体が目的化している点にあると思う。</p>
<p>何だかよく分からないものを理解していくというプロセスは,自身の「『有能さ』への欲求」を満たす行為であり,まさに「ゲーム」に対する内発的動機になり得るものだ。</p>
<p>であるなら ChatGPT も「仕事に使えるか?」とか要らないことは考えずに,純粋に「ゲーム」だと思えば楽しく遊べるのではないか,と考えを切り替えることにした。
競馬の予想屋と大して変わらないなんちゃらアナリストの発言に右往左往するのはもう止めよう。</p>
<p>というわけで,改めて(Google アカウントではない)アカウントを作ってみた。
Subscription で決済が発生するのなら Google アカウントは使いたくなかったので。
まずは無料枠分で「壁打ち」するところから始めようか(笑)</p>
<figure>
<blockquote>年齢に関わらず、遊びは私たちの精神を鋭敏に保つために重要です。
[…]
遊ぶことは学ぶことです。</blockquote>
<figcaption><div><q><a href="https://www.amazon.co.jp/dp/4571210450?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1">『はじめて学ぶ ビデオゲームの心理学』p.71</a></q>より</div></figcaption>
</figure>
<h2>ブックマーク</h2>
<ul>
<li><a href="https://help.openai.com/en/articles/6825453-chatgpt-release-notes">ChatGPT — Release Notes | OpenAI Help Center</a></li>
<li><a href="https://qiita.com/koma_aws/items/5d4a8bed52599f497f5c">ChatGPTをVSCodeで利用するための設定方法 - Qiita</a>
<ul>
<li><a href="https://zenn.dev/waarrk/articles/a6868cea7549de">ChatGPTのVSCodeプラグインが神すぎる件について</a></li>
<li>これらで紹介されている拡張機能は,規約違反がどうのとかで,後悔を取りやめたらしい。まぁ Chromium がインストールされている必要があるみたいなので,どっちみち使わんと思うが</li>
</ul>
</li>
<li><a href="https://qiita.com/yukiaprogramming/items/538a18bb3581245857e5">ChatGPTのAPIをGolangで実装する - Qiita</a></li>
<li><a href="https://zenn.dev/o_ob/articles/gas-chatgpt-api">VisualStudio CodeとGoogle Apps ScriptでChatGPT(gpt-3.5-turbo)をより安全快適に使う</a></li>
<li><a href="https://japan.zdnet.com/article/35201375/">ChatGPTに回答の参考文献を提示させるには - ZDNET Japan</a></li>
<li><a href="https://platform.openai.com/docs/libraries/community-libraries">OpenAI API</a>
<ul>
<li><a href="https://github.com/sashabaranov/go-openai">GitHub - sashabaranov/go-openai: OpenAI ChatGPT, GPT-3, GPT-4, DALL·E, Whisper API wrapper for Go</a></li>
</ul>
</li>
<li><a href="https://zenn.dev/u_u/articles/54902c757ffce5">ChatGPTのプロンプトをLispで書く</a></li>
<li><a href="https://qiita.com/ikeda_yasuhiro/items/3c633ddf0f3119051fe0">GPT-4はどのようにして「不適切な回答」を回避するように学習されているのか - Qiita</a></li>
<li><a href="https://qiita.com/kznrluk/items/6d5ecd22c1b19d3e1d56">ChatGPTで開発効率アップ!askiを使ったCLIコードレビュー&バグ特定 - Qiita</a></li>
<li><a href="https://dev.to/disukharev/top-3-open-source-ai-tools-for-programmers-4oed">TOP 3 open-source AI to code like a PRO 🧠 🤖 - DEV Community</a></li>
</ul>
<h2>参考図書</h2>
<div class="hreview">
<div class="photo"><a href="https://www.amazon.co.jp/dp/4571210450?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1"><img src="https://m.media-amazon.com/images/I/41Yi36OSUmL._SL160_.jpg" width="112" alt="photo"></a></div>
<dl>
<dt class="item"><a class="fn url" href="https://www.amazon.co.jp/dp/4571210450?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1">はじめて学ぶ ビデオゲームの心理学 脳のはたらきとユーザー体験(UX)</a></dt>
<dd>セリア ホデント (著), 山根 信二 (監修), 成田 啓行 (翻訳)</dd>
<dd>福村出版 2022-12-13</dd>
<dd>単行本(ソフトカバー)</dd>
<dd>4571210450 (ASIN), 9784571210457 (EAN), 4571210450 (ISBN)</dd>
<dd>評価<abbr class="rating fa-sm" title="5"> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i></abbr></dd>
</dl>
<p class="description">デジタル版が出そうもないので,諦めて紙の本を購入。ゲームデザイナやゲームエンジニアだけでなく,ソフトウェア・エンジニアは全員読むべき。あと,ゲーマーな人も読むといいよ。感想は<a href="https://text.baldanders.info/remark/2023/04/the-psychology-of-video-games/">こちら</a>。</p>
<p class="powered-by">reviewed by <a href='#maker' class='reviewer'>Spiegel</a> on <abbr class="dtreviewed" title="2023-04-09">2023-04-09</abbr> (powered by <a href="https://affiliate.amazon.co.jp/assoc_credentials/home">PA-APIv5</a>)</p>
</div> <!-- はじめて学ぶ ビデオゲームの心理学 -->
<div class="hreview">
<div class="photo"><a href="https://www.amazon.co.jp/dp/B0BXQ2HMQ5?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1"><img src="https://m.media-amazon.com/images/I/51RHpNwG41L._SL160_.jpg" width="120" alt="photo"></a></div>
<dl>
<dt class="item"><a class="fn url" href="https://www.amazon.co.jp/dp/B0BXQ2HMQ5?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1">日経サイエンス2023年5月号(特集:対話するAI ChatGPT)</a></dt>
<dd>日経サイエンス編集部 (編集)</dd>
<dd>日経サイエンス 2023-03-25 (Release 2023-03-25)</dd>
<dd>雑誌</dd>
<dd>B0BXQ2HMQ5 (ASIN), 4910071150534 (EAN)</dd>
<dd>評価<abbr class="rating fa-sm" title="4"> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="far fa-star"></i></abbr></dd>
</dl>
<p class="description">特集記事が「話す AI 描く AI」ということで,いわゆる Generative AI に関する内容。大規模言語モデル(LLM)の解説も載っている。圏論の記事もあるよ。</p>
<p class="powered-by">reviewed by <a href='#maker' class='reviewer'>Spiegel</a> on <abbr class="dtreviewed" title="2023-03-28">2023-03-28</abbr> (powered by <a href="https://affiliate.amazon.co.jp/assoc_credentials/home">PA-APIv5</a>)</p>
</div> <!-- 日経サイエンス2023年5月号(特集:対話するAI ChatGPT) -->
<div class="hreview">
<div class="photo"><a href="https://www.amazon.co.jp/dp/B00LF90DZW?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1"><img src="https://m.media-amazon.com/images/I/61StnV8HguL._SL160_.jpg" width="113" alt="photo"></a></div>
<dl>
<dt class="item"><a class="fn url" href="https://www.amazon.co.jp/dp/B00LF90DZW?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1">賢者の弟子を名乗る賢者1 (GCノベルズ)</a></dt>
<dd>りゅうせんひろつぐ (著), 藤ちょこ (イラスト)</dd>
<dd>マイクロマガジン社 2014-06-30 (Release 2014-07-01)</dd>
<dd>Kindle版</dd>
<dd>B00LF90DZW (ASIN), 9784896374650 (EAN), 4896374657 (ISBN)</dd>
<dd>評価<abbr class="rating fa-sm" title="5"> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i></abbr></dd>
</dl>
<p class="description">最近のお気に入りラノベ。 <a href="http://ncode.syosetu.com/n6829bd/">Web 版</a>も愛読している。こういう設定のゲームとかあったら楽しいかなぁ。</p>
<p class="powered-by">reviewed by <a href='#maker' class='reviewer'>Spiegel</a> on <abbr class="dtreviewed" title="2017-06-09">2017-06-09</abbr> (powered by <a href="https://affiliate.amazon.co.jp/assoc_credentials/home">PA-APIv5</a>)</p>
</div> <!-- 賢者の弟子を名乗る賢者 -->
<div class="footnotes" role="doc-endnotes">
<hr>
<ol>
<li id="fn:1">
<p>親に無理やり入れさせられた。高校に入ったら一切運動部には関わらないという条件で渋々入った。テニス部を選んだのは一番楽そうに見えたからだ(←シロート考えw)。まぁ,それで身に着けた体力の余剰分でこの歳まで生き延びたんだから,そこだけは当時の親に感謝しておこう。今だに運動も体育会系のノリもまっぴらゴメンって感じだが。 <a href="#fnref:1" class="footnote-backref" role="doc-backlink">↩︎</a></p>
</li>
</ol>
</div>
想像し,象徴し,創造する
tag:text.Baldanders.info,2023-02-20:/remark/2023/02/ai-hallucinations/
2023-02-20T04:05:12+00:00
2023-02-20T05:22:07+00:00
妄想までできるようになったことを評価すべき?
Spiegel
https://baldanders.info/profile/
<p>“AI Hallucinations” という言葉があるそうな。
辞書的には hallucination とは幻覚とか妄想とかいった意味らしい。
そして yomoyomo さんが “<a href="https://www.oreilly.com/radar/ai-hallucinations-a-provocation/" title="AI Hallucinations: A Provocation – O’Reilly">AI Hallucinations</a>” を紹介している。</p>
<ul>
<li><a href="https://yamdas.hatenablog.com/entry/20230220/ai-hallucination">「機械の中の幽霊」ならぬ「AIの中の幻覚」? AIの「ハルシネーション」について考える - YAMDAS現更新履歴</a></li>
<li><a href="https://www.oreilly.com/radar/ai-hallucinations-a-provocation/" title="AI Hallucinations: A Provocation – O’Reilly">AI Hallucinations: A Provocation – O’Reilly</a></li>
</ul>
<p>yomoyomo さんの記事の前半にある ChatGPT を検索サービスと繋げることへの懸念は私も同意する。
このブログでは何度も書いているが,昨年から台頭してきた,いわゆる Generative AI と呼ばれる一連が示すものは「翻案の大量生産」だ。
一方で AI と検索サービスのマッチングで期待されるのは,たとえばグレッグ・イーガン著作の『<a href="https://www.amazon.co.jp/dp/4488711022?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1">万物理論</a>』に出てくるシジフォスのようなものだろう。
しかし,あれは20世紀の人が夢見た「エキスパートシステム」の延長線上にあるもので, ChatGPT のような妄想を垂れ流すものじゃない。
むしろ IBM が開発した Watson のほうが近いよね。</p>
<p>ChatGPT の妄想が(今のところ)許容されるのは,出力の評価を行うのが人間側だから。
AI はまだ「自律性<sup id="fnref:1"><a href="#fn:1" class="footnote-ref" role="doc-noteref">1</a></sup>」を獲得できてないのだから当然だが。
人は,妄想の中にも一欠片の真実を見い出せば,それを(良くも悪くも)評価する。
日本語で「忖度」というやつだ(笑) 心なきモノの心を慮れるのは人間の美点のひとつだろう(皮肉でなく)。</p>
<p>私は(このブログなんかもそうだが)思考が横滑りしやすいので,実は ChatGPT の妄想には勝手に親近感を覚えている。
どのくらい横滑りするかというと “<a href="https://www.oreilly.com/radar/ai-hallucinations-a-provocation/" title="AI Hallucinations: A Provocation – O’Reilly">AI Hallucinations</a>” を読んで10年前に出版された<a href="https://www.amazon.co.jp/dp/B00HCB8098?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1" title="神様のお仕事 3">ラブコメ作品</a>を連想する程度には横滑りする。</p>
<figure>
<blockquote>神の力とは、想像し、象徴し、創造する力だ</blockquote>
<figcaption><div><q><a href="https://www.amazon.co.jp/dp/B00HCB8098?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1">神様のお仕事 3</a></q>より</div></figcaption>
</figure>
<p>だから <a href="https://text.baldanders.info/remark/2023/02/customgpt/" title="CustomGPT.ai で遊んでみる">CustomGPT.ai で遊んだ</a>りしてるんだけど。</p>
<p>人間だって何もないところからは妄想も想像もできない。
その意味で Generative AI が示すものはとても象徴的である。
でも今のところそれらがやっていることは(コピー機が作品を大量に複製するように)既存の何かをそれっぽく組み合わせた Remix を妄想という形で撒き散らしているだけで,まだその先がない。
象徴し創造する,に至れないわけだ。
まぁ “<a href="https://www.oreilly.com/radar/ai-hallucinations-a-provocation/" title="AI Hallucinations: A Provocation – O’Reilly">AI Hallucinations</a>” に書かれているように,妄想までできるようになったことを評価すべきかもしれないけど。</p>
<p>それとも,やっぱり人の知能だの知性だのといったものの根源は機械で代替できる程度のものなのかと落胆するところかな(笑)</p>
<h2>参考文献</h2>
<div class="hreview">
<div class="photo"><a href="https://www.amazon.co.jp/dp/B00HCB8098?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1"><img src="https://m.media-amazon.com/images/I/51c3ryNp81L._SL160_.jpg" width="113" alt="photo"></a></div>
<dl>
<dt class="item"><a class="fn url" href="https://www.amazon.co.jp/dp/B00HCB8098?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1">神様のお仕事 3 (講談社ラノベ文庫)</a></dt>
<dd>幹 (著), 蜜桃まむ (イラスト)</dd>
<dd>講談社 2013-11-01 (Release 2013-12-20)</dd>
<dd>Kindle版</dd>
<dd>B00HCB8098 (ASIN)</dd>
<dd>評価<abbr class="rating fa-sm" title="5"> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i></abbr></dd>
</dl>
<p class="description">和風ファンタジー仕立てのラブコメ第3巻。お祭り回。</p>
<p class="powered-by">reviewed by <a href='#maker' class='reviewer'>Spiegel</a> on <abbr class="dtreviewed" title="2014-01-08">2014-01-08</abbr> (powered by <a href="https://affiliate.amazon.co.jp/assoc_credentials/home">PA-APIv5</a>)</p>
</div> <!-- 神様のお仕事 3 -->
<div class="hreview">
<div class="photo"><a href="https://www.amazon.co.jp/dp/4488711022?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1"><img src="https://m.media-amazon.com/images/I/51J3DEJJ1TL._SL160_.jpg" width="112" alt="photo"></a></div>
<dl>
<dt class="item"><a class="fn url" href="https://www.amazon.co.jp/dp/4488711022?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1">万物理論 (創元SF文庫)</a></dt>
<dd>グレッグ・イーガン (著), 山岸 真 (翻訳)</dd>
<dd>東京創元社 2004-10-28</dd>
<dd>文庫</dd>
<dd>4488711022 (ASIN), 9784488711023 (EAN), 4488711022 (ISBN)</dd>
<dd>評価<abbr class="rating fa-sm" title="4"> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="far fa-star"></i></abbr></dd>
</dl>
<p class="description">グレッグ・イーガンの名作。これも singularity を巡る物語だな。</p>
<p class="powered-by">reviewed by <a href='#maker' class='reviewer'>Spiegel</a> on <abbr class="dtreviewed" title="2017-09-18">2017-09-18</abbr> (powered by <a href="https://affiliate.amazon.co.jp/assoc_credentials/home">PA-APIv5</a>)</p>
</div> <!-- 万物理論 -->
<div class="hreview">
<div class="photo"><a href="https://www.amazon.co.jp/dp/B071FHBGW8?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1"><img src="https://m.media-amazon.com/images/I/51cD7DR87IL._SL160_.jpg" width="111" alt="photo"></a></div>
<dl>
<dt class="item"><a class="fn url" href="https://www.amazon.co.jp/dp/B071FHBGW8?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1">そろそろ、人工知能の真実を話そう (早川書房)</a></dt>
<dd>ジャン=ガブリエル ガナシア (著), 小林 重裕・他 (翻訳), 伊藤 直子 (監修)</dd>
<dd>早川書房 2017-05-25 (Release 2017-05-31)</dd>
<dd>Kindle版</dd>
<dd>B071FHBGW8 (ASIN)</dd>
<dd>評価<abbr class="rating fa-sm" title="3"> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="far fa-star"></i> <i class="far fa-star"></i></abbr></dd>
</dl>
<p class="description">シンギュラリティは起きない。</p>
<p class="powered-by">reviewed by <a href='#maker' class='reviewer'>Spiegel</a> on <abbr class="dtreviewed" title="2016-07-02">2016-07-02</abbr> (powered by <a href="https://affiliate.amazon.co.jp/assoc_credentials/home">PA-APIv5</a>)</p>
</div> <!-- 人工知能の真実を話そう -->
<div class="footnotes" role="doc-endnotes">
<hr>
<ol>
<li id="fn:1">
<p>『<a href="https://www.amazon.co.jp/dp/B071FHBGW8?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1">そろそろ、人工知能の真実を話そう</a>』では「自律というのは哲学的な意味であり、自らが行動する際の基準と目的を明確を持ち、自ら規範を作り出すことができることをいう」と解説している(<a href="https://text.baldanders.info/remark/2017/09/the-myth-of-the-singularity/" title="『シンギュラリティの神話』を読む">参考</a>)。 <a href="#fnref:1" class="footnote-backref" role="doc-backlink">↩︎</a></p>
</li>
</ol>
</div>
CustomGPT.ai で遊んでみる
tag:text.Baldanders.info,2023-02-13:/remark/2023/02/customgpt/
2023-02-13T12:44:04+00:00
2023-02-13T12:45:36+00:00
折角お金を払ったんだし,もうしばらく遊んでみますかね。
Spiegel
https://baldanders.info/profile/
<p><a href="https://customgpt.ai/" title="Build Your Own ChatBOT - CustomGPT">CustomGPT.ai</a> というサービスがあるらしい。</p>
<ul>
<li><a href="https://www.publickey1.jp/blog/23/customgptaipublickeybot3.html">「CustomGPT.ai」でPublickeyのコンテンツを学習させたチャットBotを作ってみた。サイト検索の代わりになるか? 回答の精度と3つの大きな課題 - Publickey</a></li>
</ul>
<p>この記事によると</p>
<figure>
<blockquote>CustomGPTは、ChatGPTの持つ幅広い汎用の知識に加えて、特定のWebサイトの情報などを学習させることで、特定の情報に詳しくなるようにカスタマイズできるAIだと説明されています。</blockquote>
<figcaption><div><q><a href="https://www.publickey1.jp/blog/23/customgptaipublickeybot3.html">「CustomGPT.ai」でPublickeyのコンテンツを学習させたチャットBotを作ってみた。サイト検索の代わりになるか? 回答の精度と3つの大きな課題</a></q>より</div></figcaption>
</figure>
<p>とのこと。
早速このブログ・サイトを使って試してみることにした。</p>
<h2>サインアップからプロジェクト作成まで</h2>
<p>最初にサインアップを行う。</p>
<figure lang="en">
<blockquote class="nobox" style='margin:0 auto;text-align:center;'>
<a href="./customgpt-signup.png"><img src="./customgpt-signup.png" srcset="./customgpt-signup.png 1407w" sizes="(min-width:600px) 500px, 80vw" alt="Register - CustomGPT" loading="lazy"></a>
</blockquote>
<figcaption><div>via <q><a href="./customgpt-signup.png">Register - CustomGPT</a></q></div></figcaption>
</figure>
<p>サインアップが完了するとこんな画面になる。</p>
<figure lang="en">
<blockquote class="nobox" style='margin:0 auto;text-align:center;'>
<a href="./customgpt-ready.png"><img src="./customgpt-ready.png" srcset="./customgpt-ready.png 1407w" sizes="(min-width:600px) 500px, 80vw" alt="My projects - CustomGPT" loading="lazy"></a>
</blockquote>
<figcaption><div>via <q><a href="./customgpt-ready.png">My projects - CustomGPT</a></q></div></figcaption>
</figure>
<p>この時点ではまだ料金は発生しない。
“Create Your First Project” でプロジェクトを作成しよう。
ここで初めて料金が提示される。</p>
<figure lang="en">
<blockquote class="nobox" style='margin:0 auto;text-align:center;'>
<a href="./customgpt-plicing.png"><img src="./customgpt-plicing.png" srcset="./customgpt-plicing.png 958w" sizes="(min-width:600px) 500px, 80vw" alt="Pricing Plans - CustomGPT" loading="lazy"></a>
</blockquote>
<figcaption><div>via <q><a href="./customgpt-plicing.png">Pricing Plans - CustomGPT</a></q></div></figcaption>
</figure>
<p>お試しに月1万円以上払う財力はないので,ここは Basic プランで(それでも日本円で6K円以上するけど)。
ページの読み込みが1,000ページまでとかチャット Bot が公開できないとかの制約があるが,お試しなら問題ないだろう。</p>
<p>なお,サブスクリプションは “Billing” の設定画面でいつでも解約できる。</p>
<figure lang="en">
<blockquote class="nobox" style='margin:0 auto;text-align:center;'>
<a href="./ccustomgpt-billing.png"><img src="./customgpt-billing.png" srcset="./customgpt-billing.png 500w" sizes="(min-width:600px) 500px, 80vw" alt="My projects - CustomGPT" loading="lazy"></a>
</blockquote>
<figcaption><div>via <q><a href="./ccustomgpt-billing.png">My projects - CustomGPT</a></q></div></figcaption>
</figure>
<p>プランを決めたらいよいよプロジェクトのセットアップへ。</p>
<figure lang="en">
<blockquote class="nobox" style='margin:0 auto;text-align:center;'>
<a href="./customgpt-create.png"><img src="./customgpt-create.png" srcset="./customgpt-create.png 1061w" sizes="(min-width:600px) 500px, 80vw" alt="Create Project - CustomGPT" loading="lazy"></a>
</blockquote>
<figcaption><div>via <q><a href="./customgpt-create.png">Create Project - CustomGPT</a></q></div></figcaption>
</figure>
<p>プロジェクト名は任意で。
スコープには対象となるサイトの <code>sitemap.xml</code> を指定する。
上手く行けばこんな画面になる。</p>
<figure lang="en">
<blockquote class="nobox" style='margin:0 auto;text-align:center;'>
<a href="./customgpt-project.png"><img src="./customgpt-project.png" srcset="./customgpt-project.png 1065w" sizes="(min-width:600px) 500px, 80vw" alt="My projects - CustomGPT" loading="lazy"></a>
</blockquote>
<figcaption><div>via <q><a href="./customgpt-project.png">My projects - CustomGPT</a></q></div></figcaption>
</figure>
<p>では “Ask Me Anything” からチャットボットへ移動し,いくつか質問してみよう。</p>
<h2>質問してみる</h2>
<h3>ピープルウェアについて教えて</h3>
<p>まずは軽く。</p>
<figure lang="en">
<blockquote class="nobox" style='margin:0 auto;text-align:center;'>
<a href="./customgpt-q1.png"><img src="./customgpt-q1.png" srcset="./customgpt-q1.png 1058w" sizes="(min-width:600px) 500px, 80vw" alt="Ask Me Anything - CustomGPT" loading="lazy"></a>
</blockquote>
<figcaption><div>via <q><a href="./customgpt-q1.png">Ask Me Anything - CustomGPT</a></q></div></figcaption>
</figure>
<figure>
<blockquote>ピープルウェアは、プロジェクトの社会学と呼ばれるもので、プロジェクトで起きる問題は技術的な問題よりも人間側の問題であるという問題意識を持っています。この本では、プロジェクトで起きる問題をどのように解決するかを学ぶことができます。</blockquote></figure>
<p>んー。
これって昨日書いた<a href="https://text.baldanders.info/remark/2023/02/peopleware/" title="『ピープルウエア』を借りて流し読む">記事</a>の要約だな。
まぁ,無難な答え?</p>
<h3>最近の Go 言語の脆弱性情報について</h3>
<figure lang="en">
<blockquote class="nobox" style='margin:0 auto;text-align:center;'>
<a href="./customgpt-q2.png"><img src="./customgpt-q2.png" srcset="./customgpt-q2.png 1058w" sizes="(min-width:600px) 500px, 80vw" alt="Ask Me Anything - CustomGPT" loading="lazy"></a>
</blockquote>
<figcaption><div>via <q><a href="./customgpt-q2.png">Ask Me Anything - CustomGPT</a></q></div></figcaption>
</figure>
<figure>
<blockquote>Go 1.16.6 で HTTPS クライアントに関連する脆弱性が修正されたことが報告されています。 この脆弱性を回避するために、Go 1.19 の改修が決定打となっています。 また、Libgcrypt 1.8.8 および 1.9 系の 1.9.4 より前のバージョンは脆弱性を含んでいるとの報告もあります。 また、Spring Cloud Function に関連する脆弱性(CVE-2022-22963)も報告されています。</blockquote></figure>
<p>いやいやいや(笑)
GnuPG や Spring Framework の脆弱性情報と混ざっとるがな。
ついでに <a href="https://spring.io/security/cve-2022-22963" title="CVE-2022-22963: Remote code execution in Spring Cloud Function by malicious Spring Expression">CVE-2022-22963</a> について訊いてみた。</p>
<figure lang="en">
<blockquote class="nobox" style='margin:0 auto;text-align:center;'>
<a href="./customgpt-q3.png"><img src="./customgpt-q3.png" srcset="./customgpt-q3.png 1058w" sizes="(min-width:600px) 500px, 80vw" alt="Ask Me Anything - CustomGPT" loading="lazy"></a>
</blockquote>
<figcaption><div>via <q><a href="./customgpt-q3.png">Ask Me Anything - CustomGPT</a></q></div></figcaption>
</figure>
<figure>
<blockquote>CVE-2022-22963 は Spring Cloud Function に関する脆弱性です。VMWare の記事を参照してください。詳細は以下のとおりです:Spring Cloud Function は、Spring Cloud Stream および Spring Cloud Task のようなサービスを提供するために使用されるサーバーレスプラットフォームです。脆弱性は、Spring Cloud Function のデプロイプロセス中に発生します。これにより、攻撃者は、Spring Cloud Function アプリケーションを悪用して、任意のコードを実行したり、アプリケーションを完全に改変したりすることが可能になります。</blockquote></figure>
<p><a href="https://spring.pleiades.io/projects/spring-cloud-function" title="Spring Cloud Function の概要とサポート期間 - リファレンスドキュメント">Spring Cloud Function</a> の説明ってこれで合ってるっけ? 合ってるような? 私のブログサイトでは <a href="https://spring.pleiades.io/projects/spring-cloud-function" title="Spring Cloud Function の概要とサポート期間 - リファレンスドキュメント">Spring Cloud Function</a> そのものについて解説してない筈なので,他所から取ってきた知識なんだろうな,多分。</p>
<h3>自転車で速く走れるようになりたい</h3>
<figure lang="en">
<blockquote class="nobox" style='margin:0 auto;text-align:center;'>
<a href="./customgpt-q4.png"><img src="./customgpt-q4.png" srcset="./customgpt-q4.png 1058w" sizes="(min-width:600px) 500px, 80vw" alt="Ask Me Anything - CustomGPT" loading="lazy"></a>
</blockquote>
<figcaption><div>via <q><a href="./customgpt-q4.png">Ask Me Anything - CustomGPT</a></q></div></figcaption>
</figure>
<figure>
<blockquote>自転車のコントロールを磨くことで、スピード感覚を養うことができます。また、今年(2022年)の道路交通法改正でヘルメットの着用が義務付けられるため、安全な状態で走行することを心がけることも重要です。</blockquote></figure>
<p>間違ってない気はするが… 質問がふわっとしてるから答えもふわっとしてるのか? ちなみにヘルメット着用の(努力)義務化は今年2023年4月から施行される。</p>
<h3>最近の Twitter について</h3>
<figure lang="en">
<blockquote class="nobox" style='margin:0 auto;text-align:center;'>
<a href="./customgpt-q5.png"><img src="./customgpt-q5.png" srcset="./customgpt-q5.png 1058w" sizes="(min-width:600px) 500px, 80vw" alt="Ask Me Anything - CustomGPT" loading="lazy"></a>
</blockquote>
<figcaption><div>via <q><a href="./customgpt-q5.png">Ask Me Anything - CustomGPT</a></q></div></figcaption>
</figure>
<figure>
<blockquote>最近のTwitterは、個人同士の双方向コミュニケーション手段として使えるとは思えない広告メディアとして認識されています。文字列の他に、@から始まる単語をアカウント名、#から始まる単語をタグとして解釈し、他ユーザや他のツイートと連携することが可能です。また、ツイート内のURLを解釈し、アプリケーションやその設定によっては映像(動画を含む)やTwitter Cardと呼ばれるページのサマリ情報に展開して表示することもできます。しかし、ニュースフィードが更新されていない気がします。</blockquote></figure>
<p>ちょっと何言ってるか分からない… これって私が書いた内容を適当に切り貼りしてるだけだな。
文章のコラージュ?</p>
<h3>Fediverse とは</h3>
<figure lang="en">
<blockquote class="nobox" style='margin:0 auto;text-align:center;'>
<a href="./customgpt-q6.png"><img src="./customgpt-q6.png" srcset="./customgpt-q6.png 1058w" sizes="(min-width:600px) 500px, 80vw" alt="Ask Me Anything - CustomGPT" loading="lazy"></a>
</blockquote>
<figcaption><div>via <q><a href="./customgpt-q6.png">Ask Me Anything - CustomGPT</a></q></div></figcaption>
</figure>
<figure>
<blockquote>Fediverse とは、federation と universe を組み合わせた造語で、分散型のソーシャルネットワークを指します。Mastodon などのサービスは、従来のプラットフォームや中央集権型のサービスとは異なり、投稿を管理したり、アカウントを削除する単一の権限がなく、すべてがユーザとサーバに委ねられています。コンテンツ警告マークをつけることで、センシティブなコンテンツを最小化し、ハッシュタグを使って投稿を分類しキュレーションすることも可能です。</blockquote></figure>
<p>これはまぁまぁ。
文章として成立している(笑) 最後の一文の内容には言及したことがないので,これも他所から取ってきた知識なんだろう。</p>
<h2>作文ツール?</h2>
<p>考えてみれば当たり前だが, <a href="https://customgpt.ai/" title="Build Your Own ChatBOT - CustomGPT">CustomGPT.ai</a> は読み込んだページを「知識」として「作文」するツールって感じ。</p>
<figure>
<blockquote>例えば、製品のマニュアルやFAQを学習させることで「この製品の電源スイッチはどこにありますか?」「マニュアルからオートにモードに切り替える命令は?」といった、特定の製品に特化した質問に的確に答えられるチャットBotの開発などに用いることが想定されます。</blockquote>
<figcaption><div><q><a href="https://www.publickey1.jp/blog/23/customgptaipublickeybot3.html">「CustomGPT.ai」でPublickeyのコンテンツを学習させたチャットBotを作ってみた。サイト検索の代わりになるか? 回答の精度と3つの大きな課題</a></q>より</div></figcaption>
</figure>
<p>とあるように,製品情報等を読み込ませて要約させたり組み合わせたりするのがいいんだろう。
うちのブログみたいなのを読み込ませても難解ポエムになるだけかも。</p>
<p>まぁ,でも,折角お金を払ったんだし,もうしばらく遊んでみますかね。</p>
人間だと思った? 残念! ボットちゃんでした
tag:text.Baldanders.info,2022-12-05:/remark/2022/12/fake-by-ai/
2022-12-05T01:07:22+00:00
2022-12-05T01:22:01+00:00
AI は考えないし感じない。
Spiegel
https://baldanders.info/profile/
<p>いや,人間同士の会話では分からないことを「分からない」で済まさないことも多いぢゃん。
まぁ,興味がないなら「分からない」で打ち切る手もあるけど,大抵は持ってる情報や知識から蓋然性の高い推論を立ててみたり,あるいは全くの思いつきを口にしたり,などするでしょう? それに対する相手の反応を見ながら会話や議論を継続していく(もしくは継続を断念する)わけだ。</p>
<p>…</p>
<p>たとえば,先日 <a href="https://chat.openai.com/">ChatGPT</a> で遊んだときに</p>
<figure lang="en">
<blockquote class="nobox" style='margin:0 auto;text-align:center;'>
<a href="https://chat.openai.com/"><img src="https://text.baldanders.info/remark/2022/12/debugging-with-ai/chatgpt-2.png" srcset="https://text.baldanders.info/remark/2022/12/debugging-with-ai/chatgpt-2.png 835w" sizes="(min-width:600px) 500px, 80vw" alt="ChatGPT" loading="lazy"></a>
</blockquote>
<figcaption><div>via <q><a href="https://chat.openai.com/">ChatGPT</a></q></div></figcaption>
</figure>
<p>が<a href="https://text.baldanders.info/remark/2022/12/debugging-with-ai/">面白かった</a>という話をしたけど,これの面白さは,内容以上に AI が知識として持ってない(であろう)ことを,元ネタが分からないレベルの「創作」で以って補って提示している点だろう。
人間で言うなら「口からでまかせ」というところだろうが, AI はこれを「考えている」んじゃない。</p>
<p>AI は考えないし感じない。
少なくとも現代の AI 技術は数学の道具である論理・確率・統計を駆使した入力と出力の組み合わせである。
どれだけ「それ」が人間臭く見えても実際には「機械」の域を出ていない。
上の創作(笑)や<a href="https://gist.github.com/hyuki/65ebb23855d31731ee2342e0920bcf9f" title="結城浩とChatGPTの対話 · GitHub">結城浩さんが Gist で公開</a>されている事例が示すのは,機械で以って人間側が受容できるレベルの対話もどきが成立している点だろう。</p>
<p>ならば,機械が嘘を吐く可能性がないと言えようか(反語)。</p>
<p>そう考えると <a href="https://social.hyuki.net/@hyuki" title="結城浩@social.hyuki.net (@hyuki@social.hyuki.net) - 結城浩のマストドン">@hyuki@social.hyuki.net</a> さんの</p>
<figure>
<blockquote class="nobox center">
<iframe src="https://social.hyuki.net/@hyuki/109457705957545683/embed" class="mastodon-embed" style="max-width: 100%; border: 0" width="400" allowfullscreen="allowfullscreen"></iframe>
</blockquote></figure>
<p>も色んな意味を含んでいることが分かる。
相手の反応を引き出すための意図的なフェイクをビジネスロジックとして組み込むことは可能である,ということだ。
何故なら嘘に対する反応も AI にとっては有用な「入力」だから。</p>
<p>噂を誘導するためにネットにデコイをばら撒くってのは SAC 版の「攻殻機動隊」で出たネタだったか。
ネットにデコイをばら撒くってのは既にロシアとかがやってるとかいう噂もあるし(噂だよ,念のため),それを今の AI 技術でやったらさぞかし面白いことになるだろう。
しかもそれを受ける側も AI ボットだったりする可能性もあるわけだ。
まさに <a href="https://text.baldanders.info/remark/2022/12/debugging-with-ai/#ec">AI エコー・チェンバー</a>(笑)</p>
<h2>参考図書</h2>
<div class="hreview">
<div class="photo"><a href="https://www.amazon.co.jp/dp/B01JMEDX8A?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1"><img src="https://m.media-amazon.com/images/I/512LcoC3R8L._SL160_.jpg" width="160" alt="photo"></a></div>
<dl>
<dt class="item"><a class="fn url" href="https://www.amazon.co.jp/dp/B01JMEDX8A?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1">攻殻機動隊 STAND ALONE COMPLEX</a></dt>
<dd>田中敦子 (出演), 阪脩 (出演), 大塚明夫 (出演), 山寺宏一 (出演), 仲野裕 (出演), 大川透 (出演), 山口太郎 (出演), 小野塚貴志 (出演), 玉川紗己子 (出演), 神山健治 (監督)</dd>
<dd> (Release 2016-08-05)</dd>
<dd>Prime Video</dd>
<dd>B01JMEDX8A (ASIN)</dd>
<dd>評価<abbr class="rating fa-sm" title="4"> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="far fa-star"></i></abbr></dd>
</dl>
<p class="description">「<a href="https://www.amazon.co.jp/dp/B06XCRQQZF?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1">GHOST IN THE SHELL</a>」とどっちが好きかと言われれば悩むところだが,アニメ版「攻殻機動隊」シリーズでは好きな作品。</p>
<p class="powered-by">reviewed by <a href='#maker' class='reviewer'>Spiegel</a> on <abbr class="dtreviewed" title="2022-05-21">2022-05-21</abbr> (powered by <a href="https://affiliate.amazon.co.jp/assoc_credentials/home">PA-APIv5</a>)</p>
</div> <!-- 攻殻機動隊 STAND ALONE COMPLEX (SAC) -->
デバッグする AI
tag:text.Baldanders.info,2022-12-02:/remark/2022/12/debugging-with-ai/
2022-12-02T12:12:03+00:00
2022-12-25T04:41:16+00:00
今日も楽しく遊びました。
Spiegel
https://baldanders.info/profile/
<p>朝から私の Twitter TL が騒がしいなぁ,と思ったら <a href="https://chat.openai.com/">ChatGPT</a> なるものが流行ってるらしい。</p>
<ul>
<li><a href="https://openai.com/blog/chatgpt/">ChatGPT: Optimizing Language Models for Dialogue</a></li>
<li><a href="https://qiita.com/sakasegawa/items/82069c97a1ee011c2d1e">ChatGPT使い方総まとめ - Qiita</a></li>
</ul>
<p>たとえば「goroutine を使って並行処理で複数の URL から CSV ファイルをダウンロードするコードを書いてください。」と入力するとちゃんと<a href="https://twitter.com/mattn_jp/status/1598474642209275904">動くっぽいコードを返してくれる</a>みたいだし,コードを示して「バグを探してくれ」と書いたら<a href="https://twitter.com/yuroyoro/status/1598538264126050304">バグの内容と修正方法までアドバイス</a>してきたらしい,流暢な日本語で。</p>
<p>まぁ,今は<a href="https://note.com/sakasegawa/n/n9f63e82ef391">コミットメッセージを AI に書かせる</a>時代らしいし,これって前世紀の人が夢見た,まさに「エキスパートシステム」だねぇ。
凄い凄い。</p>
<p>一方,私はといえば…</p>
<p>「語尾に「にゃん」を付けて可愛らしい言い方で Mastodon について解説して」って頼んだら。</p>
<figure lang="en">
<blockquote class="nobox" style='margin:0 auto;text-align:center;'>
<a href="https://chat.openai.com/"><img src="./chatgpt-1.png" srcset="./chatgpt-1.png 805w" sizes="(min-width:600px) 500px, 80vw" alt="ChatGPT" loading="lazy"></a>
</blockquote>
<figcaption><div>via <q><a href="https://chat.openai.com/">ChatGPT</a></q></div></figcaption>
</figure>
<p>とか返してきた。
思わず「<a href="https://fedibird.com/@spiegel/109441682281643776">そうだけどそうじゃねー</a>」ってツッコんじゃったよ(笑) まぁ,個人的に一番面白かったのは「「やせ蛙負けるな一茶これにあり」の俳句を解説してください。」に対して</p>
<figure lang="en">
<blockquote class="nobox" style='margin:0 auto;text-align:center;'>
<a href="https://chat.openai.com/"><img src="./chatgpt-2.png" srcset="./chatgpt-2.png 835w" sizes="(min-width:600px) 500px, 80vw" alt="ChatGPT" loading="lazy"></a>
</blockquote>
<figcaption><div>via <q><a href="https://chat.openai.com/">ChatGPT</a></q></div></figcaption>
</figure>
<p>と返したことだったけどね。
最後の「この俳句は、「人間の弱さ」をテーマにした俳句であると言えます」のところだけ合ってるような気がしないでもないのがにんともかんとも(笑)</p>
<p><a href="https://text.baldanders.info/remark/2022/10/cultural-commons/" title="AI は「創作者様」を引きずり下ろすか — 『人権と文化コモンズ』を流し読む">前にも書いた</a>が,現代の AI 技術が齎すものは <strong>翻案の大量生産</strong> だろう。
20世紀が夢見た「エキスパートシステム」も,今となってはそのバリエーションのひとつに過ぎなくなっている。
「翻案機」としての AI をどう上手く使うかがこれからの「人材」に求められているのかもしれない。</p>
<p>なんてな。
今日も楽しく遊びました。</p>
<h2 id="ec">【2022-12-04 追記】 AI エコー・チェンバー</h2>
<p>なるほどな,と思う tweet を見かけた。</p>
<figure style='margin:0 auto;text-align:center;'>
<blockquote class="twitter-tweet"><p lang="ja" dir="ltr">文章作成AIによる解説ブログ、近いうちに乱立してめちゃくちゃノイズになると思う。<br><br>ボリュームがそこそこある検索ワードを引っこ抜いて、検索ワードごとに文章を自動生成するだけ。<br>技術的には簡単だし、低コスト・低リスクで収入が期待できてしまうという。</p>— catnose (@catnose99) <a href="https://twitter.com/catnose99/status/1599014159320252421?ref_src=twsrc%5Etfw">December 3, 2022</a></blockquote>
</figure>
<figure style='margin:0 auto;text-align:center;'>
<blockquote class="twitter-tweet"><p lang="ja" dir="ltr">こういうサイトが乱立して、Googleの機械学習でも大量のゴミデータが食わされるようになった時がヤバそう</p>— catnose (@catnose99) <a href="https://twitter.com/catnose99/status/1599014161908105216?ref_src=twsrc%5Etfw">December 3, 2022</a></blockquote>
</figure>
<p>「エコー・チェンバー効果」と呼ばれるものがある。
閉じたコミュニティなどで文字通り「反響室(echo chamber)」のように特定の思想や意見が増幅・固定されてしまうことを指すらしい。
まぁ,コミュニティ内でそういった「増幅」が見られるのは普通だし,<a href="https://text.baldanders.info/remark/2021/09/echo-chamber/" title="「エコーチェンバーの中にいる可能性が高い」">だからどうしたって感じ</a>ではある。
世捨て人じゃあるまいし,人が社会の中で生きていく限り,多かれ少なかれ,こうした影響からは免れない。</p>
<p>しかし,この「エコー・チェンバー」が AI と組み合わさると面白いことになりそうだ。</p>
<p>昔で言うところの(今でも言うかもしれないが)「<a href="https://text.baldanders.info/remark/2016/12/is-curation-media-dead/" title="「キュレーション」じゃなく,はっきり「注目の搾取」と言えよ!">1円ライター</a>」がネタ出しに <a href="https://chat.openai.com/">ChatGPT</a> みたいなツールを使うことはありそうな話だし,ツールの出力結果が Web ページとして「洗浄」されてしまえば判別は難しいだろう。</p>
<p>人間から見れば,今でさえ S/N 比が底辺状態の Web に「翻案の大量生産」が加わったとしてもどうってことはないだろうが,意図せず AI の出力結果が AI にフィードバックされる本当の「エコー・チェンバー効果」が起きたらどうなるのか。
なかなか興味深い。</p>
<h2>ブックマーク</h2>
<ul>
<li><a href="https://beta.openai.com/">OpenAI API</a></li>
<li><a href="https://japan.zdnet.com/article/35196862/">質問に答えてくれる言語モデル「ChatGPT」–プレビューは無料公開 - ZDNet Japan</a></li>
<li><a href="https://gist.github.com/hyuki/65ebb23855d31731ee2342e0920bcf9f">結城浩とChatGPTの対話 · GitHub</a></li>
<li><a href="https://yamdas.hatenablog.com/entry/20210902/philip-glass-on-ai">フィリップ・グラスが人工知能と芸術について語る - YAMDAS現更新履歴</a></li>
<li><a href="https://gist.github.com/hyuki/0943a22a166923e1ee0cda56c3ca1012">ChatGPTを使って画像生成AIのプロンプトを生成する · GitHub</a></li>
<li><a href="https://gigazine.net/news/20221205-chatgpt-passes-ap-computer-science-a/">対話AI「ChatGPT」が大学生レベルの試験の自由記述問題に合格してしまう - GIGAZINE</a></li>
<li><a href="https://gigazine.net/news/20221206-chatgpt-banned-temporary/">会話AI「ChatGPT」の回答の投稿がコーディングQ&AサイトのStack Overflowで一時的に禁止される - GIGAZINE</a> : 「「ChatGPT」の回答」の判断基準を示してくれる記事が何処にも見当たらないのだが,これって体のいい検閲じゃねーの?</li>
<li><a href="https://github.com/humanloop/awesome-chatgpt">GitHub - humanloop/awesome-chatgpt: Curated list of awesome tools, demos, docs for ChatGPT and GPT-3</a></li>
<li><a href="https://rentwi.hyuki.net/?1601462336899796993s">AIの応用における「検索」と「生成」の類似性 - 結城浩の連ツイ</a></li>
<li><a href="https://youkoseki.com/text/2022_ai">2022年と、AI戦争の歴史</a> : 名作!</li>
<li><a href="https://www.theregister.com/2022/12/21/ai_assistants_bad_code/">AI assistants help developers produce code that’s insecure • The Register</a></li>
</ul>
<h2>参考図書</h2>
<div class="hreview">
<div class="photo"><a href="https://www.amazon.co.jp/dp/B0791XCYQG?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1"><img src="https://m.media-amazon.com/images/I/51twtvqpgZL._SL160_.jpg" width="111" alt="photo"></a></div>
<dl>
<dt class="item"><a class="fn url" href="https://www.amazon.co.jp/dp/B0791XCYQG?tag=baldandersinf-22&linkCode=ogi&th=1&psc=1">AI vs. 教科書が読めない子どもたち</a></dt>
<dd>新井 紀子 (著)</dd>
<dd>東洋経済新報社 2018-02-02 (Release 2018-02-02)</dd>
<dd>Kindle版</dd>
<dd>B0791XCYQG (ASIN)</dd>
<dd>評価<abbr class="rating fa-sm" title="4"> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="fas fa-star"></i> <i class="far fa-star"></i></abbr></dd>
</dl>
<p class="description">4章以外は面白かった。感想文は<a href="https://text.baldanders.info/remark/2018/02/artificial-intelligence-book/">こちら</a>。</p>
<p class="powered-by">reviewed by <a href='#maker' class='reviewer'>Spiegel</a> on <abbr class="dtreviewed" title="2018-02-11">2018-02-11</abbr> (powered by <a href="https://affiliate.amazon.co.jp/assoc_credentials/home">PA-APIv5</a>)</p>
</div> <!-- AI vs. 教科書が読めない子どもたち -->