4th DELTA Project Workshop

The fourth Re-constructing ELSI workshop of our DELTA project invited three speakers from private companies, each working on a latest area of technology – gene editing, cell culturing, and artificial intelligence and robotics, respectively.

Most ELSI discussion in the past were initiated by the government or other public bodies and focused primarily on implications of academic research. If we assume a linier model of technological development, this approach might sound reasonable because that would be the moment when we have a relatively clear idea of what the technology in question is about but it has not been integrated into our society yet and could still be put under social/political control. However, we have learnt from Science and Technology Studies that such an assumption is implausible, not only because technological development is a much more complex process but also because what it produces can be interpreted differently and can take multiple forms reflecting the contexts it is situated in. From this point of view, visions of private companies can be treated like “scenarios”, plausible stories of the future involving a new technology that they work on. We felt that engagement of private companies in ELSI discussion could be hugely valuable, and decided to invite the speakers this time.

The critical question to ask was: “their engagement can be valuable for us, that is, those who are concerned about ELSI of latest sciences and technologies, but can it be for them too?” In other words, we need to know what would count as a sufficient incentive for private companies to spend their resource on exploring ELSI of their products/services and work with academics and political authorities to address it. Reliance on the notion of corporate social responsibility would probably be of little help here. But at the same time, it would be difficult for public bodies, including the government, to offer sufficient financial incentives for their constant engagement. This situation somewhat resembles the discussion on orphan drugs, although I don’t necessarily see the Orphan Drug Act as a perfect solution for the challenge (see my work on the topic).

Interestingly, the three speakers presented quite divergent approaches. One is to avoid obviously sensitive areas of technological applications but press the boundary of “grey” ones. Companies taking this approach may be willing to cooperate with the government and academics because it helps them to reduce the risk they have to take. Also, the cooperation would speed up gathering of relevant evidences, with which they might be able to justify their business. Another is to be a bit more conservative and wait until some kind of consensus on how their technology ought to be used to emerge. Companies themselves would likely have internal discussions too and would help the government and academics by supplying relevant information when asked. The third is to create a consensus by letting the public test and taste different applications of the technology. Companies, however, need someone to make the revealed preference officially recognized, and that might possibly be the place where the government and academics can play a role.

The idea of course is not to evaluate these approaches and decide which one to promote but to figure out how we can design productive interaction among different stakeholders, including the government, academics, and private companies. And an interesting direction to do so seems to think about how we can create a “safe” space for trials and errors – “safe” in the sense that the impact of the test can be contained within the space but also in the sense that actors involved are protected from financial and reputational damages. (Well, we don’t want testing of self-driving cars to cause fatal accident in our city, do we?) The history of ELSI, which has its origin in life sciences, is not necessarily sympathetic to the idea of trials and errors. But given its wider use now, we might have to open up the conversation. Instead of discussing whether a technological application should be allowed, we might want to think and talk about how well we would be able to contain the impact of such an application. Once we translate the moral question into a technical/regulatory one, we might have a very different group of experts participating in the discussion.

 

ー日本語(Japanese ver.)ー

第4回 「ELSI概念の再構築」研究会開催

第4回「ELSI概念の再構築」研究会は、ゲノム編集、細胞培養、そして人工知能とロボットという先端技術に取り組んでいる企業の方を話題提供者としてお招きして開催した。これまでのELSIの議論というと省庁や公的組織が主体となって行われることが多く、その対象となるのも学術研究とされることがほとんどだったのではないだろうか。もし、技術開発の過程を線形で捉えるのであれば、そのような手法もある程度の説得力を持ち得る。学術研究の最先端ではその技術について把握することが可能であるが、技術自体はまだ社会に出る段階に至っておらず、社会的な制御を行うことも出来るという考え方である。だが、科学技術社会論では、技術開発が複雑な過程であることに加え、そこで生み出された技術の理解が多様であり、使用される状況とも関連してその在り方が変わることが議論されてきた。そのような観点からすると、企業のビジョンはある種のシナリオのように捉えることができるのではないだろうか。ここでいうシナリオとは、対象とする技術がどのように社会に組み込まれていくのかを描いた説得力のあるストーリーである。もしそうであるならば、企業をELSIの議論に巻き込むことは大きな意味を持つのではないか。このような考えから今回は企業の方に話題提供者を依頼したのである。

一つ鍵となる問題として、ELSIに取り組む側からすれば企業の関与は意義があるかもしれないが、企業にとってそれは意義のあるものになり得るのだろうかという疑問があった。つまり、企業が限られた資源を彼らが開発する製品やサービスのELSIの議論につぎ込み、学術研究者や行政との連携を進めるだけのインセンティブがそこにはあるのだろうかという問いである。企業の社会的責任といった概念に委ねるのはおそらく無理があるし、行政が企業の本格的な関与を促すだけの財政的な支援をすることも難しいだろう。社会の抱える課題に対して企業の積極的な関与を促す仕組みが求められるという点において、オーファンドラックについての議論とも類似するように思われる。

実際に三人の話題提供者が話してくれた取り組みの方向性は非常に興味深いものであった。一つには、明らかに問題を抱えていると考えられる方向での技術開発は行わず、ある種のグレイな領域においてその可能性を探るというものである。企業は行政や学術研究者と連携することでそのリスクを減らすことができるというメリットがあり、協力の可能性が見えてくる。また、そのような協力体制であれば、国外における先進的な事例などについての情報も入り易くなり、事業化に向けた後押しが得られる可能性もある。二つ目の方向性は、より保守的なもので、社会においてコンセンサスが形成されるのを期待するものである。企業内においても議論は進められ、要請があれば行政や研究者に対して情報を提供するという関わり方が考えられる。三つ目は、よりオープンな形で、一般の人にも自由な発想で技術について試してもらうことで、その趣向が明らかにするというものである。企業としては社会が受容してくれるものをさらに押し進めるという判断ができるが、多様な試みが行われる中で明らかにされる民意を正当化するという過程が必要であり、ここに行政や研究者が果たす役割が見出だされる。

もちろん、このような異なる方向性をそれぞれ評価し、一つにまとめることが目的ではない。そのような企業の考え方を理解した上で、行政と研究者、そして企業を含めたステークホルダーの建設的な関係性を構築することこそが真の目的である。その点では、一つの可能性として試行錯誤を可能にする「安全な」空間を作り出すということが考えられる。ここでいう「安全」とは、試行錯誤をすることによって生じる影響をその空間の中に閉じ込めることができるという意味と、そこに関与する組織や人物がきちんと守られているという意味の二つを指す。ELSI概念の歴史を辿るとその起源は生命科学分野にあり、必ずしも試行錯誤が許される環境とは言えない。しかし、より広範囲に及んでその概念が用いられるようになったことを踏まえると、そのような可能性についても検討がなされるべきではないだろうか。ある技術、あるいはその応用が社会的に妥当かという議論から、その技術について試行錯誤をするための「安全な」空間の設計が可能かという議論に転換することが出来たならば、その議論に関わるべき専門性にも変化が見られるのではないだろうか。

Advertisements

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out /  Change )

Google+ photo

You are commenting using your Google+ account. Log Out /  Change )

Twitter picture

You are commenting using your Twitter account. Log Out /  Change )

Facebook photo

You are commenting using your Facebook account. Log Out /  Change )

Connecting to %s