Любые советы, сделанные системами ИИ, сначала должны проверить эксперты

Искусственный интеллект (ИИ) представляет не только новые возможности, но и угрозы. Так, мошенники с помощью ChatGPT генерируют фишинговые письма, составленные грамотнее и внушающие большее доверие. ChatGPT позволяет автоматизировать процесс рассылки, повысить достоверность текстов и, соответственно, вероятность обмана.

Как отмечает управляющий директор «Лаборатории Касперского» в России и странах СНГ Анна Кулашова, такой метод интернет-атаки может использоваться не только против пользователей, но и организаций. И компании в судоходной отрасли – не исключение.

Так, ​ gCaptain получил тревожное  сообщение от одного американского капитана, который утверждает, что судовладелец использовал чат-бот с искусственным интеллектом (ИИ), предположительно ChatGPT, который предложить ему внести изменения в план рейса. В данном случае капитан решил не следовать этим рекомендациям, он составил сообщение судовладельцу, в котором указал свои  опасения, и отправил его по электронной почте для получения дальнейших распоряжений. Как правило, в таких ситуациях морской суперинтендант, работающий на судовладельца, рассматривает возникшие вопросы совместно с различными экспертами (например, опытными капитанами, логистами, техническими специалистами)  и предоставляет капитану судна рекомендации по снижению риска.
В ходе разбирательств был сделан вывод, что рекомендация по изменению маршрута, данная  ChatGPT , была довольно банальной и вряд ли могла навредить судну, но смысл процедур  Международного  Управления Безопасностью заключается в том, что более опытные  капитаны и другие специалисты  на берегу, которые могут  располагать важной информацией, о которой капитану судна ещё не сообщили,  могут  подтвердить отсутствие непосредственной опасности.

Критические для безопасности операции, такие как планирование рейса судна, требуют знаний и суждений опытных профессионалов, которые могут всесторонне оценить риски и непредвиденные обстоятельства. Если полагаться на рекомендации ИИ для таких операций, это может привести к потенциально опасным ситуациям и непредвиденным последствиям. Крайне важно, чтобы любые советы или предложения, сделанные системами ИИ, сначала тщательно оценивались и проверялись квалифицированными экспертами-людьми, особенно в областях, критически важных для безопасности.

Буквально на днях ChatGPT анонсировал 4 версию  с расширенной аналитической обработкой. Благодаря новому движку искусственного интеллекта у работников офиса на берегу и судовых офицеров, которые часто перегружены бумажной работой, будет еще больше соблазна привлечь к рассмотрению  некоторых вопросов  искусственный интеллект.

С другой стороны,  ИИ располагает потенциалом обнаруживать опасности и находить возможности для снижения рисков при планировании рейса, которые люди могут не заметить. gCaptain получил отчеты, свидетельствующие о том, что ChatGPT помогает выявить потенциальные опасности, не учтенные в процессе планирования рейса. Полный отказ от  использования ИИ  или демонстрация явного недоверия этой технологии, сопровождаемая комментариями типа: «Я этим роботам не доверяю»,  могут заставить капитанов судов воздерживаться от применения  ИИ и, возможно, они пропустят какое-то решение, которое  могло бы обеспечить безопасность экипажа. Использование ИИ в перспективе может способствовать созданию  дополнительных возможностей для трудоустройства. Например, рекомендации, сделанные в ChatGPT, было бы неплохо сначала отдать «на проверку»  опытным капитанам, работающим в связке  со специалистом по составлению запросов для  ИИ.

Независимо от того, возможно ли доказать причастность ИИ к рекомендации, крайне важно привлечь к этой проблеме внимание заинтересованных сторон – морских организаций, – отмечают в Российском профессиональном союзе моряков. – Они должны обсудить последствия использования ИИ и предоставить соответствующие рекомендации, потому что это только вопрос времени, когда вмешательство ИИ –  будь то принятие совета ИИ или отказ от него, приведет к  серьезной аварии с судном  и гибели людей.

К тому же судоходные компаниям следует действовать  более прозрачно и уведомлять  капитана о любых сообщениях, которые передаются на судно с помощью ИИ. Такое уведомление может быть от элементарного  «ChatGPT был использован для исправления грамматики в этом письме» до «вот некоторые дополнительные идеи для решения этой проблемы, рекомендованные ИИ.

Для справки: ChatGPT — чат-бот с искусственным интеллектом, разработанный компанией OpenAI и способный работать в диалоговом режиме, поддерживающий запросы на естественных языках.

По материалам  iz.ru, gcaptain.com
Фото: @ashtwinproject on Twitter