Towards Responsible Governance of Biological Design Tools

要約

生成機械学習の最近の進歩により、タンパク質の構造や配列予測モデルなどの生物学的設計ツール (BDT) が急速に進歩しました。
BDT の前例のない予測精度と斬新な設計機能は、新たな重大な二重使用リスクをもたらします。
たとえば、その予測精度により、ワクチンであれ病原体であれ、生物学的因子をより迅速に開発できるようになり、その設計機能を利用して薬剤を発見したり、DNAスクリーニング技術を回避したりすることも可能です。
他のデュアルユース AI システムと同様に、BDT には厄介な問題があります。それは、規制当局がイノベーションを抑制することなく公共の安全を維持するにはどうすればよいでしょうか?
私たちは、主に大規模な言語モデルに合わせて調整された現在の規制提案が、トレーニングに必要な計算リソースが少なく、オープンソース方式で開発されることが多い BDT にとっていかに効果的でない可能性があるかを強調します。
私たちは、責任ある開発、リスク評価、透明性、アクセス管理、サイバーセキュリティ、回復力への投資の分野にわたって、BDT が悪用されるリスクを軽減するためのさまざまな対策を提案します。
このような措置を実施するには、開発者と政府の間の緊密な調整が必要です。

要約(オリジナル)

Recent advancements in generative machine learning have enabled rapid progress in biological design tools (BDTs) such as protein structure and sequence prediction models. The unprecedented predictive accuracy and novel design capabilities of BDTs present new and significant dual-use risks. For example, their predictive accuracy allows biological agents, whether vaccines or pathogens, to be developed more quickly, while the design capabilities could be used to discover drugs or evade DNA screening techniques. Similar to other dual-use AI systems, BDTs present a wicked problem: how can regulators uphold public safety without stifling innovation? We highlight how current regulatory proposals that are primarily tailored toward large language models may be less effective for BDTs, which require fewer computational resources to train and are often developed in an open-source manner. We propose a range of measures to mitigate the risk that BDTs are misused, across the areas of responsible development, risk assessment, transparency, access management, cybersecurity, and investing in resilience. Implementing such measures will require close coordination between developers and governments.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google