要約:
Tencent の主任 AI サイエンティストで元 OpenAI 研究者の姚舜宇氏は、最近香港での科学セミナーに出席し、最先端の人工知能モデルは急速に生物学の分野に進出しており、その能力は間もなく実生活に害を及ぼす可能性のある臨界点に達するだろうと述べた。この変更により、新薬の研究開発や医療革新が促進されることが期待されていますが、新たな安全性の課題をもたらし、バイオセーフティーのリスクについて業界の懸念を高める可能性もあります。
姚俊宇氏は、人工知能はネットワークセキュリティの分野に実際の影響を与えるのに十分な能力を実証しており、生物学的な能力も同様のレベルに近づいていると述べた。同氏は、生物学分野での将来のAI開発はサイバーセキュリティ分野よりも管理が難しい可能性があるため、中国企業とオープンモデル路線を採用する他の企業は、関連するセキュリティ問題を真剣に受け止める必要があると警告した。
In recent years, more and more cutting-edge AI systems have begun to be applied to life sciences, medical research, and drug development.業界では一般に、AI によって医薬品のスクリーニングと研究開発のサイクルが大幅に短縮され、治療選択肢の発見が迅速化されると考えられています。 However, experts also pointed out that these capabilities have "dual use" characteristics.科学研究の進歩を促進する一方で、犯罪者によって悪用される可能性もあり、その結果、新たなバイオセキュリティリスクがもたらされます。
Yao Shunyu’s speech comes at a time when Tencent is accelerating its AI strategy.テンセントは11月4日に新世代フラッグシップモデルHy4を正式リリースし、同社の最も重要なベーシックモデルの1つと位置付けた。人工知能評価機関である Artificial Analysis のデータによると、Hy4 は現在、中国で最もパフォーマンスの高い AI モデルの 1 つとしてランクされています。
将来の開発の方向性について語る際、姚舜宇氏は、テンセントが「自律的な科学実験室」を構築する可能性を模索しており、AIシステムを利用して一部の生物学的研究タスクを含む複雑な科学研究プロセスを独立して完了したいと考えていることを明らかにした。 He believes that from a technical perspective, most problems can eventually be solved. The real bigger challenges lie in social governance, organizational coordination and the construction of safety supervision systems.
潜在的なリスクを軽減するために、テンセントは Hy4 のトレーニング プロセス中に一連の安全対策を採用しました。同社は、保護機能を維持しながら攻撃機能を軽減することを期待して、ソフトウェアの脆弱性の悪用や攻撃行為に関連するデータを意図的に削除し、防御的なネットワークセキュリティの知識のみを保持したと述べた。生物学の分野に関しては、テンセントの内部評価では、Hy4 は強力な基礎生物学的知識を持っているものの、独自に実験手順を策定し、高リスクの能力を形成する能力との間には依然として明らかなギャップがあると考えています。
Yao Shunyu 氏は、ネットワーク セキュリティの分野と比較して、生物学の分野では「攻撃能力」と「防御能力」を明確に区別することがしばしば難しいことを特に強調しました。これは、研究者がモデルのリスクを評価する際に、より複雑な状況に直面することになるため、モデルはリリース前により厳格なテストと検証を受ける必要があることを意味します。 Tencent は現在、同社のトップセキュリティ研究所と協力して、関連する機能の体系的な評価を実施しています。
近年物議を醸している「オープンソース対クローズドソース」の議論に関して、ヤオ・シュンユー氏は、Anthropic などのアメリカ企業は、潜在的な社会的リスクを軽減するために最先端のモデルをクローズドにし続けることを主張していると述べた。この見解には一定の合理性があります。しかし同氏は、オープンモデルは防御側の能力向上にも役立つと信じているため、将来的に業界は単一のルートに完全に依存するのではなく、オープン性と閉鎖性のバランスを模索する必要があるかもしれない。
人工知能がプログラミング、数学、コンテンツ生成から生命科学の分野まで徐々に拡大するにつれ、生物学は次の段階で最も重要な AI フロンティアの 1 つとみなされています。アナリストらは、AIが本当に生物学的知識を深く理解して応用する能力を身につけると、関連技術は医薬品の研究開発や医療業界を変えるだけでなく、その後の新たな安全性の課題に対処するために世界の規制当局に人工知能のガバナンス枠組みの再検討を促す可能性があると指摘した。
コメント