• Весенний музыкальный фестиваль собрал более 6500 зрителей

    Весенний музыкальный фестиваль собрал более 6500 з...

    31.03.24

    0

    892

  • Информация про перенос событий и возврат билетов

    Информация про перенос событий и возврат билетов

    28.03.24

    0

    4381

  • В Брянском государственном краеведческом музее состоится лекция «Все о змеином яде и его обладателях»

    В Брянском государственном краеведческом музее сос...

    28.03.24

    0

    2035

Трёх законов робототехники уже не хватает. В OpenAI предложили новые принципы для контроля развития ИИ

Трёх законов робототехники уже не хватает. В OpenAI предложили новые принципы для контроля развития ИИ
  • 27.02.23
  • 0
  • 11159
  • фон:

Титульное изображение сгенерировано нейросетью Midjourney

За последние месяцы нейросети стали чрезвычайно популярными. Во многом это заслуга ChatGPT и генеративных нейросетей. Однако разработчики смотрят в будущее и прогнозируют новые проблемы на этом поприще. В блоге OpenAI вышла статья, где говорится о довольно скором появлении Artificial general intelligence (AGI). Это можно перевести как «ИИ общего назначения», сами же авторы подразумевают под этим термином ИИ, который может решать любые задачи не хуже человека, а порой даже лучше.

В статье говорится, что AGI должен «расширить возможности человечества для максимального процветания», однако он может принести также и потенциальные проблемы. Чтобы заблаговременно подготовиться к ним, в OpenAI предложили набор принципов, которыми команда руководствуется в своей работе над AGI.

Список их выглядит так:

- Развертывание и изучение не слишком мощных ИИ-систем в реальном мире, что позволит получить опыт работы с ними и обратную связь.
- Упрощение доступа к ИИ-системам для всех желающих.
- Поддержка ИИ человеческих ценностей и предпочтений.
- Взаимодействие международных структур для использования и регулирования ИИ.
- Обмен данными и опытом о прогрессе ИИ с общественностью, а также привлечение заинтересованных сторон, которые могут внести вклад в развитие ИИ.

Это лишь самые основные моменты, другие могут возникнуть уже по мере развития AGI и буду зависеть от вышеперечисленных факторов. Ведь пока сложно предсказать, насколько быстро будет развиваться такой ИИ, насколько хорошей будет координация усилий и взаимодействие между разными странами. Также неясно, насколько хорошо AGI будет учитывать именно человеческие цели, утремления и предпочтения.

В OpenAI также отметили что у них самих есть не все ответы и решения для потенциальных проблем в будущем, особенно после того, как AGI станет массовым явлением. Там рассчитывают, что в долгосрочной перспективе эти и другие требования к развитию ИИ станут обязательными для всех.

Источник