Убедительно не значит правильно: Аймагамбетов об опасности советов ИИ

Чат-бот – не врач

Пациенты уже обращаются к искусственному интеллекту с вопросами о здоровье, а врачи используют такие технологии в работе. Об этом депутат Курултая Асхат Аймагамбетов написал в своем Telegram. Он призвал не путать обычные чат-боты с медицинскими системами.

"Важно разграничивать обычный чат-бот, к которому человек обращается за советом, и медицинскую систему, прошедшую необходимые проверки. То, что ответ звучит убедительно, ещё не означает, что он правильный", – подчеркнул Асхат Аймагамбетов.

По его словам, искусственный интеллект может помогать анализировать медицинские снимки, обрабатывать данные, выявлять риски заболеваний на ранних стадиях и поддерживать врачей при принятии решений. Но такие возможности не отменяют необходимости проверять безопасность технологий и контролировать их применение.

Кто ответит за ошибку искусственного интеллекта

Как отметил депутат, они с коллегами продолжают работу над законопроектом по вопросам здравоохранения. Значительная часть подготовленных поправок касается использования искусственного интеллекта в медицине.

Аймагамбетов уточнил, что необходимо определить, кто будет отвечать, если ИИ ошибётся, и кто получает доступ к данным пациентов.

"Как проверяется безопасность системы? Кто имеет доступ к медицинским данным? Как защищается врачебная тайна? Кто несёт ответственность, если использование искусственного интеллекта приводит к ошибке?" – обратил внимание депутат.

По его словам, поправки также предусматривают требования к качеству технологий, кибербезопасности, защите персональных данных и соблюдению этических норм.

Как отметил депутат, задача законодателей – не запретить новые технологии, а создать условия для их безопасного использования. Искусственный интеллект должен помогать медикам и приносить пользу пациентам, а не становиться дополнительным источником рисков.

Ранее Qumash.kz писал о том, как в Казахстане планируют использовать искусственный интеллект для контроля качества медицинской помощи. По планам правительства, к 2028 году ИИ должен проводить не менее 20% всех проверок качества лечения.