ChatGPTに起こり得る事故を推論させるとどうなるのか？

ChatGPTは知らないことでも、あたかも知っているように返答してくれます。

例えば、以下のような投げかけをしてみました。(Model: GPT-4)

あなたは海上での経験が豊富なベテラン船長です。以下のニアミスレポートから将来起こり得る事故を500文字程度で推論してください。

ニアミスレポート:
岸壁に惰力で着岸体制に入ったが、潮流が予想以上に強かったため、流されて岸壁に接触しそうになった。

それに対する返答がこちら。

予想以上の強い潮流によるニアミスは、船舶の操作に直接的な影響を与えるため、将来の海難事故を引き起こす可能性があります。一例としては、岸壁に対する衝突による船体損傷や、貨物や乗客への危険が挙げられます。船体が損傷すると、船が水浸しになり、最悪の場合、沈没する可能性があります。これは乗客や乗組員の生命を直接的に危険にさらします。また、危険物を積んでいる場合、それが漏れ出す可能性があり、海洋環境に深刻な影響を及ぼす可能性もあります。これらの事故は、予測不可能な潮流や船長の経験不足により悪化する可能性があります。このような事態を避けるためには、常に海洋の状態を把握し、適切な訓練と経験を持った乗組員が適切な措置を取ることが必要です。

それらしいことは言っているのですが、船長経験者が読むと首を傾げそうです。

現場では「船が水浸し」という表現はほとんど使われないし、そもそも、与えたニアミスレポート以上の内容を答えてくれていません。

現時点ではGPT単独での推論、特に特定の分野に特化した形では限界がある事例です。しかし、これにEmbeddingsを組み合わせると面白い結果になるようなので、先月から色々と試行錯誤しているところです。