Looping in the Human Collaborative and Explainable Bayesian Optimization

要約

多くのオプティマイザーと同様、ベイジアン最適化も不透明なため、ユーザーの信頼を得ることができないことがよくあります。
人間中心のオプティマイザーを開発する試みがなされてきましたが、通常、ユーザーの知識が明確でエラーがないことを前提としており、主に最適化プロセスのスーパーバイザーとしてユーザーを採用しています。
私たちはこれらの仮定を緩和し、Collaborative and Explainable Bayesian Optimization (CoExBO) フレームワークを使用して、よりバランスの取れた人間と AI のパートナーシップを提案します。
CoExBO は、ユーザーに知識モデルの提供を明示的に要求するのではなく、好みの学習を採用して人間の洞察を最適化にシームレスに統合し、その結果、ユーザーの好みに応じたアルゴリズムの提案が得られます。
CoExBO は、反復ごとに候補の選択について説明し、信頼を育み、ユーザーが最適化をより明確に把握できるようにします。
さらに、CoExBO は無害の保証を提供するため、ユーザーが間違いを犯しても大丈夫です。
極端な敵対的介入があっても、アルゴリズムはバニラのベイジアン最適化に漸近的に収束します。
私たちは、リチウムイオン電池設計における人間と AI のチーミング実験を通じて CoExBO の有効性を検証し、従来の方法に比べて大幅な改善が見られることを強調しています。
コードは https://github.com/ma921/CoExBO から入手できます。

要約(オリジナル)

Like many optimizers, Bayesian optimization often falls short of gaining user trust due to opacity. While attempts have been made to develop human-centric optimizers, they typically assume user knowledge is well-specified and error-free, employing users mainly as supervisors of the optimization process. We relax these assumptions and propose a more balanced human-AI partnership with our Collaborative and Explainable Bayesian Optimization (CoExBO) framework. Instead of explicitly requiring a user to provide a knowledge model, CoExBO employs preference learning to seamlessly integrate human insights into the optimization, resulting in algorithmic suggestions that resonate with user preference. CoExBO explains its candidate selection every iteration to foster trust, empowering users with a clearer grasp of the optimization. Furthermore, CoExBO offers a no-harm guarantee, allowing users to make mistakes; even with extreme adversarial interventions, the algorithm converges asymptotically to a vanilla Bayesian optimization. We validate CoExBO’s efficacy through human-AI teaming experiments in lithium-ion battery design, highlighting substantial improvements over conventional methods. Code is available https://github.com/ma921/CoExBO.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google