- Регистрация
- 12 Июн 2019
- Сообщения
- 1.846
- Репутация
- 527
- Реакции
- 1.055
«Похоже, что существует склонность все больше полагаться на алгоритмы по мере усложнения задачи, и этот эффект сильнее, чем склонность полагаться на советы других людей», — говорит аспирант по информационным системам управления Эрик Богерт из Университета Джорджии.
В экспериментах с участием 1500 человек добровольцам показывали фотографии и просили подсчитать на них количество людей. Они также могли принимать предположения от компьютерного алгоритма и выбирать из усредненных предположений других людей.
По мере того как размер толпы на изображениях увеличивался — и, следовательно, задача становилась все труднее — добровольцы стали все больше и больше полагаться на компьютерные оценки. Количество людей на изображениях варьировалось от 15 до 5 000 человек.
Исследователи говорят, что в данном случае нас может склонить к алгоритмам отчасти то, что это упражнение на счет, с которым компьютеры должны справляться очень хорошо. Это также тест, в котором явно есть правильный или неправильный ответ – а в тестах машина обычно куда лучше человека.
«Это задача, в которой люди считают, что компьютер будет лучше их, даже если алгоритм может быть предвзят и определяет людей хуже, чем наши собственные глаза», — пояснил Аарон Шектер, исследователь информационных систем из Университета Джорджии.
Исследователи стремятся подчеркнуть, что наше восприятие того, насколько точным будет алгоритм, очень важно — отчасти потому, что мы часто упускаем из виду лежащие в основе системы предубеждения и дискриминацию в результатах, которые предоставляет нам искусственный интеллект.
«Одна из распространенных проблем при работе с искусственным интеллектом — это когда он используется для выдачи кредитов или их утверждения», — заметил Шектер. «Хотя это субъективное решение, в нем много цифр, таких как показатели дохода и кредитный рейтинг, поэтому люди считают, что это хорошая работа для алгоритма. Но мы знаем, что зависимость от машин ведет к дискриминационной практике во многих случаях из-за социальных факторов, которые система попросту не принимает во внимание».
И важность этих компьютерных решений в ближайшие годы будет только расти. Мы уже полагаемся на них, чтобы отсортировать цифровые фотографии, установить цены на товары в Интернете и даже предсказать, чем закончатся телешоу.
Следующим шагом для команды, стоящей за этим исследованием, является анализ того, насколько мы доверяем алгоритмам, когда речь идет о творческих задачах и вынесении моральных суждений, от генерации художественного текста до установления размера залога для заключенных. Источник.