2018年03月21日

自動運転車のよる事故と自動セキュリティによる事故と

僕は運転免許証は持っているけれど、車は持っておらず、運転なんて15年くらいしていない、無事故・無違反・無運転者です。
もはや、運転の感を取り戻すことは難しいでしょうし、今さら運転したいとも思えないことから、自動運転のテクノロジには大変期待しています。

が、Uberの自動運転車が死亡事故を起こしたという、大変痛ましい事件が起きました。

記事では、自動運転のテクノロジの進展にブレーキが掛かるようなことが書いてありました。
実際、自動運転のテストは大変やりづらくなるでしょう。
テストには人間が同乗(?)するわけで、その人間にとっても、大変やりづらい仕事になるかと思います。

一説には突然の飛び出しによるものであったため、例え人間が運転していたとしても事故は起きていたかもしれないし、どんな高技術のテクノロジがあったとしても、回避は極めて困難だったかもしれないとも言われています。
この事件でテクノロジの進展にブレーキがかかってしまう可能性があるのは残念ではありますが、この事象から拾い上げられる情報をできる限り活用してほしいところです。制度上・法律上・責任の取り方など、幅広い議論も呼び起こされることでしょう。

ただ、Twitter上で意見を見ていたら「人が死んだら技術進歩が萎縮するような世の中はおかしい」というような意見も見受けられ、ちょっと違うんじゃないかなとも思いました。これは技術者倫理というものでしょう。クローン技術やゲノム編集を人間に適用するか云々みたいな話にも通ずるものがあるかもしれません。やはり技術者は、人間の領域に踏み込むにあたっては、極めて慎重な判断と、幅広いコンセンサスを得ながら進めていかないといけないでしょう。

昔は、技術の進歩と引き替えに、踏みにじられる人権が大きかった時代もあったのだと思います。その時代は、技術の進歩の速度が速かったのでしょう。そんな世の中が良いのかどうかは、慎重に判断したいところです。

というのも、自動機械による被害というと、やっぱり僕の場合、2012年の連続誤検知騒動を思い出してしまいますので。
プログラムが修正され、完了が報告されるまで、足かけ3年に及んだあの事件により失ったものは大きかったです。

そういったことから考えて、自分の立場では、技術者倫理をないがしろにして機械判断技術をどんどん推し進めよとは言いづらい。
今回の場合、技術的な面では、回避は非常に難しいことだったかと思います。実運用が始まった後も、これくらい回避が難しくなる事象は発生するでしょう。というか、AI自動車を狙った当たり屋が登場する日も来るかもしれません。

つまり、自動運転車による事故があることを前提に、法律などの制度設計をしなければならないです。
技術の進歩と同時に、制度設計の進歩も必要です。
そういった場合、責任は誰がどう負うのか?法律はどう解釈するのか?保険屋は誰にどう保険を下ろすのか。
同乗者の責任率、メーカーの責任率は?

今朝のラジオのニュースで言及されていましたが、例えば自動運転車がハッキングされた場合、ハッカーにも責任は及ぶが、そんな脆弱性のあるプログラムを開発したメーカーの責任は問われるのか?

2012年の連続誤検知騒動も、最終的には機械判断が間違って、被害が生じたものになります。
関わっていたウイルス対策企業が1社だけだったので、責任はその1社にあるのは間違いなかったです。

ただ、ベンダーと運営業者が分かれていたいた場合とか。
セキュリティではなく、別の機械判断的分野で、人に被害をもたらしたり、人名が脅かされたりするような場合、どうするか。そういった事態が起きることを想定して、どこまで制度設計されるのか。

ふと思い出すのが、細田監督の「サマーウォーズ」ですね。
あれも、社会インフラとも繋がるシステムが、悪質な意思を持つBOTに乗っ取られてしまう映画でした。
悪質な意思を持つBOTを開発した人も、悪意を持って開発したわけでは無さそうです。
しかしながら、結果として、社会的混乱の中で開発者自身の祖母が死んでしまうきっかけも作ってしまった。
そんな映画でした。


話を戻しまして。

2012年の事例を考えると、結局のところ、機械による判断が誤っていたときに、それを食い止められないことであるとか、窓口担当者が状況を見誤って、とりあえず口八丁手八丁で穏便に済ませようとして、結果的に感情論にもつれ込んで泥沼化したとか。
最後に食い止めるのはやはり、人間の力であることは間違いありません。

人権が踏みにじられる、生命が脅かされるほど超高速にテクノロジが進化しすぎて制御不能になることまで良しとするのは、結局は多くの不幸を招く結果になりそうです。

技術の進歩に、人間がついていけるほどの余裕を儲けることはもちろんのこと、不幸な事故が発生した場合に備えた制度設計、保険制度、法整備なども十分に整えていかなければいけませんね。


posted by ayacy at 21:43 | Comment(0) | TrackBack(0) | フリーソフト

2018年03月14日

最近気になったニュース2つ(秘密マイニングと脆弱性関連)

最近気になったニュース。窓の杜から。


当該ソフトウェアのインストールと共にマイニングを背後で秘密裏に行うツールをインストールするというもの。ドキュメントや注意文表示はあるものの、いったんインストールしてしまうとその存在に気づきにくいこと、「ウイルスバスタークラウド」がウイルス認定していること等を受けて、窓の杜での収録を停止したというもの。

作者がソフトウェアからどういった方法で収益を得るかという問題は、いくらかトラブルを引き起こすことがあります。
過去にも、あるTwitterクライアントの広告表示が大きなトラブルになったケースがあったのを思い出します。
当サイトでも、過去に、ソフトウェアのバンドルをしていた時期がありました。

本件については、まだ情報不足なので、善し悪しの評価はできませんが、そういえば漫画村も背後でマイニングを行わせていたそうですし、仮想通貨関連のトラブルとしての切り口で見ることもできそうな気がします。



老舗ソフトウェアの脆弱性関連のニュースが2つ。
ViXは僕自身も使ったことのあるソフトウェアでしたし、2001年に窓の杜からインタビューを受けた際、僕の直前に別コーナーでインタビューを受けていたのがViX作者のK_OKADA氏だったこともあり、インタビューに答えるとはどういうことかというのを色々勉強させて貰うために記事を凝視していたこともありました。

どちらも、プロバイダのWebサイトサービス終了に伴ってサイトが閉鎖していたり、作者と連絡が取れなかったりして、対策状況が不明…というか絶望的な状況とのこと。利用終了を呼びかけています。

フリーソフトと、フリーソフト作者の終焉の形態としては、まぁ、よくあることなのかなぁとも思います。

当サイトで公開しているソフトでも、いじくるつくーるは、すでに開発終了を宣言していますし、DLLを他所から読み込む機能がありますし、管理者権限で起動することが大前提になっているツールですので、脆弱性発見の報とか来たら、速攻で公開終了になると考えています。


posted by ayacy at 00:49 | Comment(0) | TrackBack(0) | フリーソフト

2018年03月04日

見習うべきタイトルの付け方。小林製薬のアイボンに見習うこと。

花粉症シーズンど真ん中に入りつつある中、目の洗浄をするやつを買って来ました。

9D841CEC-B373-4E5D-93D4-F88C7B3B11B5.jpeg

よく見てみたら、商品タイトルに「コンタクトを外した後に」という枕詞が入っていました。
気づきませんでした。

ちなみに、コンタクトレンズ利用者専用というわけではなく、コンタクトレンズ利用者でなくても使えます。
0AB3315C-1900-4306-B8A1-B4CF2A13C32B.jpeg

コンタクトレンズが関係ないのに、なぜわざわざ商品タイトルに「コンタクトを外した後に」なんて入れるのか。
きっと、コンタクトレンズを外さずに使ってしまい、トラブルになった人が、それだけ多いということでしょう。
注意書きに書いてあろうとも、そんなこと読まない人が多いんだろうな。

逆に「コンタクトレンズ利用者でないと使えないのだろうか?」と勘違いしてしまう人が出てくるかもしれないが、そういった人はトラブル発生とはならないし、疑問に思ったということは注意書きも読んでくれるだろうし、ということだろう。

あえて本当に注意したいことを商品タイトルに持ってくるという姿勢は、ソフトウェア制作者としても見習いたいところですね。
さすが、ネーミングセンス輝く小林製薬といったところか。



続きを読む
posted by ayacy at 02:00 | Comment(0) | TrackBack(0) | フリーソフト