How Useful is Intermittent, Asynchronous Expert Feedback for Bayesian Optimization?

要約

ベイジアン最適化 (BO) は、自動化された科学的発見、いわゆる自動運転ラボに不可欠な部分であり、人間の入力は理想的には最小限、または少なくともノンブロッキングです。
ただし、科学者は鋭い直感を持っていることが多いため、人間のフィードバックは依然として役立ちます。
それにもかかわらず、オフラインまたはオンラインでブロックする (BO の反復ごとに到達する) 方法で BO を組み込むなど、専門家のフィードバックによって BO を強化するというこれまでの取り組みは、自動運転ラボの精神と相容れません。
この研究では、ランダムに到着する少量の専門家のフィードバックをブロックしない方法で組み込むことで BO キャンペーンを改善できるかどうかを研究します。
この目的を達成するために、BO ループ上で追加の独立したコンピューティング スレッドを実行し、フィードバック収集プロセスを処理します。
収集されたフィードバックは、BO スレッドに容易に組み込むことができるベイジアン優先モデルを学習し、探索と活用のプロセスを制御するために使用されます。
おもちゃや化学のデータセットに関する実験では、たとえ少数の断続的で非同期な専門家からのフィードバックであっても、BO を改善したり抑制したりするのに役立つ可能性があることが示唆されています。
これは、自動運転研究所の改善における意味合いにおいて特に役立ちます。
データ効率が向上し、コストが削減されます。

要約(オリジナル)

Bayesian optimization (BO) is an integral part of automated scientific discovery — the so-called self-driving lab — where human inputs are ideally minimal or at least non-blocking. However, scientists often have strong intuition, and thus human feedback is still useful. Nevertheless, prior works in enhancing BO with expert feedback, such as by incorporating it in an offline or online but blocking (arrives at each BO iteration) manner, are incompatible with the spirit of self-driving labs. In this work, we study whether a small amount of randomly arriving expert feedback that is being incorporated in a non-blocking manner can improve a BO campaign. To this end, we run an additional, independent computing thread on top of the BO loop to handle the feedback-gathering process. The gathered feedback is used to learn a Bayesian preference model that can readily be incorporated into the BO thread, to steer its exploration-exploitation process. Experiments on toy and chemistry datasets suggest that even just a few intermittent, asynchronous expert feedback can be useful for improving or constraining BO. This can especially be useful for its implication in improving self-driving labs, e.g. making them more data-efficient and less costly.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google