要約
人工知能 (AI) は過去 10 年間で急速に進化し、言語理解、画像とビデオの認識、プログラミング、科学的推論などの分野で進歩しました。
大規模言語モデルと基盤モデルに基づく最近の AI テクノロジーは、汎用人工知能に迫るか、それを超えています。
これらのシステムは、複雑な問題解決、自然言語処理、マルチドメイン タスクにおいて優れたパフォーマンスを発揮し、科学、産業、医療、教育などの分野を変革する可能性があります。
しかし、これらの進歩は、制御不可能性、倫理的対立、長期的な社会経済的影響、安全性保証に関連するリスクを含む、高度な AI の安全性と信頼性に関する懸念を引き起こしています。
AI の安全性と信頼性を確保するために、国際的に合意された標準の開発に努力が払われています。
この研究は、高度な AI の安全性と信頼性の標準化における国際的な傾向を分析し、標準化の主要分野を特定し、将来の方向性と戦略を提案し、政策への影響を導き出します。
目的は、高度なAIの安全で信頼できる開発をサポートし、効果的な標準化を通じて国際競争力を強化することです。
要約(オリジナル)
Artificial Intelligence (AI) has rapidly evolved over the past decade and has advanced in areas such as language comprehension, image and video recognition, programming, and scientific reasoning. Recent AI technologies based on large language models and foundation models are approaching or surpassing artificial general intelligence. These systems demonstrate superior performance in complex problem solving, natural language processing, and multi-domain tasks, and can potentially transform fields such as science, industry, healthcare, and education. However, these advancements have raised concerns regarding the safety and trustworthiness of advanced AI, including risks related to uncontrollability, ethical conflicts, long-term socioeconomic impacts, and safety assurance. Efforts are being expended to develop internationally agreed-upon standards to ensure the safety and reliability of AI. This study analyzes international trends in safety and trustworthiness standardization for advanced AI, identifies key areas for standardization, proposes future directions and strategies, and draws policy implications. The goal is to support the safe and trustworthy development of advanced AI and enhance international competitiveness through effective standardization.
arxiv情報
| 著者 | Jonghong Jeon |
| 発行日 | 2024-10-29 15:50:24+00:00 |
| arxivサイト | arxiv_id(pdf) |
提供元, 利用サービス
arxiv.jp, Google