Этика и право собственности

Специалист в области информационных технологий — это человек, чья работа — программное обеспечение, системы, сети, данные — влияет на других людей. Поскольку работа носит технический характер, другие часто не могут оценить, была ли она выполнена хорошо или честно. Поэтому профессия руководствуется общими этическими принципами (принципами надлежащего поведения).

Почему важна этика

• доверие — пользователи и работодатели доверяют специалистам действовать в их интересах. Без этого доверия программное обеспечение теряет репутацию.
• последствия — программное обеспечение управляет медицинскими устройствами, банковским делом, транспортными средствами. Небрежная или нечестная работа может причинить вред людям.

Профессиональные сообщества (BCS, ACM, IEEE) публикуют кодексы этики для своих членов.

Типичные принципы

• приоритет общественного интереса — обеспечивать безопасность и благополучие затронутых лиц.
• честность и компетентность — быть честным относительно своих навыков; не претендовать на экспертизу, которой нет.
• конфиденциальность — защищать конфиденциальную информацию клиентов и работодателей.
• избегать конфликтов интересов — не брать работу, где ваши интересы конфликтуют с интересами клиента.
• поддерживать актуальность своих навыков; уважать интеллектуальную собственность и приватность; справедливо относиться к коллегам.

Вступление в профессиональную организацию

Программа называет две: BCS (Британское компьютерное общество) и IEEE (Институт инженеров по электротехнике и электронике). Обе публикуют кодекс этики, которому члены обязуются следовать. Преимущества вступления, согласно схеме: набор этических руководств для следования, чтобы решения не зависели от личного суждения; обучение, конференции и публикации, поддерживающие актуальность знаний члена; советы и поддержка, включая правовую помощь, при возникновении проблем; признанный профессиональный статус, чтобы работодатели и клиенты доверяли работе члена. Последствия отсутствия членства: отсутствие руководства по этическим решениям, поэтому программист может действовать неэтично, не осознавая этого; меньшая репутация у работодателей и клиентов, что затрудняет получение работы; отсутствие поддержки в споре; и отставание от развития и законодательства. Цель кодекса этики (два балла): создание безопасной, уважительной и профессиональной рабочей среды, а также обеспечение понимания каждым сотрудником того, чего от него ожидается и какие последствия будут за его действия.

Разобранный пример. Объясните, почему программисту необходимо действовать этично по отношению к коллегам и к обществу.

Коллеги: обращаться с ними справедливо и без дискриминации; уважать их труд, идеи и конфиденциальную информацию; быть честным в ошибках и признавать заслуги там, где они есть; поддерживать их развитие, а не подрывать его. Обществу: защищать их персональные данные и приватность; разрабатывать безопасное, надежное и должным образом протестированное ПО, так как ошибки могут причинить вред; быть честным относительно возможностей ПО; брать только ту работу, которая соответствует вашей компетенции; соблюдать закон и учитывать более широкое влияние на общество и окружающую среду. За каждую сторону начисляются баллы за причину и следствие, а не просто за слово «справедливо».

Этичное vs неэтичное поведение

Этичное поведение защищает пользователей, укрепляет репутацию, снижает юридические риски и строит доверие. Неэтичное поведение (пропуск тестирования, сокрытие багов, злоупотребление данными) может навредить реальным пользователям, привести к увольнению или судебному иску, повредить репутацию и подорвать общее доверие к технологиям.

Когда вы сталкиваетесь с пограничным решением: определите, чьи интересы затрагиваются, проверьте кодекс этики и законы, взвесьте последствия, спросите у надежного старшего сотрудника и выберите вариант, который ставит защиту пользователей выше краткосрочного удобства.

Разобранный пример. Новый инструмент найма ИИ вашей команды сортирует резюме в 10 раз быстрее, но вы замечаете, что он отклоняет больше кандидатов старшего возраста. Отправка его в релиз удовлетворит менеджера, но это будет несправедливо по отношению к одной группе. Этичный выбор — задержать его до устранения предвзятости: общественный интерес и справедливость важнее краткосрочного удобства.

Этика также применяется к пользователям. Студент, подключивший личный компьютер к школьной сети, должен уважать чужую приватность и данные, не использовать социальные сети неуместно или травить других, не скачивать и не распространять охраняемые авторским правом материалы, не вводить вредоносное ПО или пытаться получить доступ к системам, к которым у него нет прав, и использовать сеть по назначению. Ответ на «назовите три этических аспекта» включает любые три из перечисленных.

Авторское право — это юридическое право создателя оригинального произведения контролировать способ его копирования, распространения, модификации и исполнения. Оно действует автоматически (без регистрации) на исходный код, программное обеспечение, документы, изображения, аудио и видео.

Без авторского права любой мог бы свободно копировать ПО, разработчик не получил бы оплаты, а плагиат стал бы легальным. С авторским правом разработчики зарабатывают на своем труде (поощряя создание большего количества ПО), пользователи знают, кто создал произведение, а повторное использование происходит на условиях разработчика через лицензирование. Авторское право длится долго (часто 70 лет после смерти автора). Общие идеи и алгоритмы не охватываются авторским правом, но могут быть защищены патентом.

Почему программисту следует регистрировать авторское право на программу, согласно схеме: чтобы быть идентифицированным как владелец и автор (официальное признание собственности); чтобы имели место юридические последствия, если кто-то скопирует или украдет её; чтобы ограничить конкурентов от продажи той же работы; и чтобы иметь возможность зарабатывать деньги путем лицензирования. Авторское право применяется к программе в том виде, в котором она написана; другая программа, выполняющая ту же задачу, не нарушает его.

Лицензия на программное обеспечение — это контракт, предоставляющий разрешение на использование ПО на условиях владельца; выбор и применение такой лицензии называется лицензированием программного обеспечения.

Коммерческие (проприетарные)

• коммерческое ПО продается: вы покупаете лицензию; ПО используется только в рамках условий лицензии.
• исходный код не предоставляется (проприетарный продукт); вы не можете его изменять или распространять.
• примеры: Microsoft Office, Adobe Photoshop, большинство игр.

Используется, когда разработчик хочет получать доход с каждого пользователя и сохранять контроль над кодом.

Открытый исходный код

• исходный код открыт; пользователи могут читать, изменять и распространять его (открытый исходный код).
• разрешительные лицензии (MIT, BSD) допускают практически любое использование; копилефт-лицензии (GPL) требуют, чтобы измененные версии выпускались под той же лицензией («share-alike» — делиться на тех же условиях).
• Фонд свободного программного обеспечения (FSF) и Инициатива открытого исходного кода (OSI) продвигают и одобряют лицензии с открытым исходным кодом.

Программа экзамена упоминает оба термина, и они отмечены как отдельные ответы. Свободное программное обеспечение (термин FSF) означает свободу, а не бесплатность: пользователь может запускать программу для любых целей, изучать и изменять её (поэтому исходный код должен быть доступен), распространять копии и分发 измененные версии; за копию все равно может взиматься плата. Открытый исходный код (определение OSI) требует наличия исходного кода, возможности изменения и распространения программы, а также того, что лицензия не дискриминирует никаких лиц или областей применения. «Определите два типа лицензий, которые позволяют другим редактировать и распространять программу» — ответом являются эти две.

• примеры: Linux, Python, Apache.

Используется, когда разработчик хочет, чтобы программное обеспечение широко использовалось и улучшалось сообществом.

Бесплатное и условно-бесплатное ПО

• бесплатное ПО (freeware) — бесплатно, без исходного кода, может распространяться, но не изменяться (Acrobat Reader, WhatsApp).
• условно-бесплатное ПО (shareware) — бесплатно на пробный период, затем нужно платить, чтобы продолжать им пользоваться; исходного кода нет.

Описания в схеме: условно-бесплатное ПО (shareware) распространяется бесплатно на испытательный срок (ограниченное время или ограниченный функционал), и пользователь платит за продолжение использования полной версии; коммерческое ПО продается за плату, исходный код не предоставляется, лицензия защищает интеллектуальную собственность разработчика, а плата обычно включает поддержку и обновления. Преимущества условно-бесплатного ПО для программиста: пользователи могут попробовать программу перед покупкой, поэтому они с большей вероятностью ее купят; она широко распространяется почти без затрат на рекламу; те, кто оставляет себе программу, платят. Преимущества коммерческой лицензии: разработчик получает плату за каждую копию; код и права на него остаются защищенными; доход финансирует поддержку, обновления и дальнейшую разработку.

Чтобы обосновать выбор лицензии, свяжите его с целью разработчика (доход, охват, сообщество), потребностями пользователей (стоимость, кастомизация) и сценарием использования.

Разбор примера. Программист написал игру для продажи публично. Определите наиболее подходящую лицензию и обоснуйте выбор.

Коммерческая лицензия: игра продается за плату, поэтому программист зарабатывает деньги с каждой копии; исходный код не публикуется, поэтому никто не может скопировать игру или изменить её и продать как свою собственную; лицензия защищает интеллектуальную собственность; покупатели получают обновления и поддержку. Open Source не подошел бы, потому что исходный код был бы доступен, и игру можно было бы скопировать, изменить и распространить без оплаты.

Разбор примера. Программа помогает покупателям, озвучивая названия товаров. Объясните, почему лицензия с открытым исходным кодом может быть неподходящей.

Исходный код был бы доступен, и его можно было бы изменить; измененная версия могла бы выдавать неверную информацию о продукте, из-за чего покупатели могли бы купить неправильный товар; а программист потерял бы контроль над качеством и безопасностью того, что распространяется под названием программы. С другой стороны, программы выпускаются с открытым исходным кодом, чтобы другие разработчики могли их улучшать и дополнять, чтобы они широко внедрялись бесплатно, и чтобы пользователи могли адаптировать их под свои нужды.

Искусственный интеллект создает системы, выполняющие задачи, которые раньше считались доступными только человеческому интеллекту — распознавание речи и изображений, перевод, игры, вождение.

Большинство современного ИИ использует машинное обучение — алгоритмы, которые совершенствуются в выполнении задачи за счет изучения паттернов из больших объемов данных, вместо пошаговой программирования. Глубокое обучение, использующее нейронные сети со множеством слоев, является ведущим подходом сегодня.

Повседневные примеры

Задачи ИИ делятся на два вида — понимание входных данных и генерация выходных данных или принятие решений.

Понимание входных данных:

• распознавание речи — преобразование устной речи в текст (голосовые помощники).
• распознавание изображений — поиск объектов, лиц или текста на изображениях.

Генерация выходных данных или принятие решений:

• машинный перевод — автоматический перевод между языками.
• рекомендательные системы — предложение товаров, видео или музыки.
• автономные транспортные средства и роботы.

Распространенный сценарий экзамена: программа читает этикетку камерой, переводит её и озвучивает — используя оптическое распознавание символов (OCR) для поиска слов, машинный перевод для их конвертации и синтез речи (text-to-speech) для аудио.

Четырёхбалльный ответ на вопрос «объясните, как используется ИИ» последовательно описывает этапы конвейера: распознавание изображений (OCR) анализирует пиксели фотографии для поиска символов; паттерны пикселей преобразуются в отдельные символы и слова; машинный перевод переводит слова на язык пользователя; а синтезатор речи генерирует устный вывод. Каждый этап оценивается в один балл.

Преимущества

• доступность — голосовые/изображения ИИ помогают людям с нарушениями восприятия; перевод помогает носителям иностранных языков.
• производительность — автоматизация рутинных задач освобождает людей для творческой работы.
• поддержка принятия решений — ИИ выявляет паттерны в огромных наборах данных (медицинская диагностика, обнаружение мошенничества).
• постоянная доступность, а также персонализация для каждого пользователя.

Влияние: социальное, экономическое, экологическое

Программа требует рассмотреть влияние ИИ по трём направлениям, и в вопросе может быть названо одно из них. Укажите влияние и его последствия.

• Социальное: преимущества — программа чтения надписей помогает людям с нарушением зрения, тем, кто не знает языка, и тем, у кого трудности с чтением; распознавание лиц в аэропорту ускоряет проверку личности и может предотвратить вход запрещенных лиц. Негативные последствия — распознавание лиц может ошибочно идентифицировать людей и отслеживать всех без согласия, что приводит к нарушению конфиденциальности; студенты, использующие ИИ для выполнения домашнего задания, могут не развить навыки рассуждения и решения проблем, могут зависеть от него вместо обучения, а также потерять возможность сотрудничества и живого общения, которые дает совместная работа.
• Экономическое: модуль диагностики неисправностей ИИ в автосервисе быстрее и точнее определяет поломки, поэтому за день ремонтируется больше автомобилей, а расходы снижаются; однако требуется меньше квалифицированных механиков, что ведет к потере рабочих мест, а сам модуль необходимо покупать и обслуживать. В целом, ИИ повышает производительность и создает новые рабочие места в некоторых областях, но устраняет рутинные позиции в других.
• Экологическое: обучение и эксплуатация крупных моделей требуют большого количества электроэнергии и воды для охлаждения в дата-центрах, а оборудование становится электронными отходами; с другой стороны, ИИ используется для снижения энергопотребления в зданиях, оптимизации транспорта и мониторинга окружающей среды.
• Этика (вопрос для класса): ИИ, который оценивает работы или наблюдает за учениками, должен быть справедливым к каждому студенту, не должен раскрывать их данные, должен объяснять свои решения, а также не должен заменять оценку учителя там, где это имеет значение.

Заботы / Проблемы

• предвзятость — несправедливые паттерны в обучающих данных становятся несправедливыми решениями ИИ (при приеме на работу, выдаче кредитов).
• вытеснение рабочих мест — ИИ может заменить некоторые должности.
• конфиденциальность — при обучении часто используются большие объемы персональных данных.
• прозрачность — крупные модели являются «черными ящиками», их сложно объяснить.
• подотчетность — когда ИИ ошибается, кто несет ответственность: разработчик, пользователь или оператор?
• злоупотребление — дипфейки, дезинформация, слежка.

Специалисты должны понимать ограничения создаваемого ими ИИ, информировать пользователей и снижать вред.

Вопросы с определениями оцениваются по фиксированной формулировке. Выучите их точно.

• Отвечайте на вопросы об этике, опираясь на кодекс профессиональной этики (общественный интерес, компетентность, честность), а не на личное мнение.
• Различайте авторское право (защищает выражение) и патент (защищает изобретение).
• Сравнивайте лицензии на программное обеспечение: проприетарное, с открытым исходным кодом, freeware, shareware и FOSS.

Распространенные ошибки

• Дача личного мнения («это неправильно») вместо обоснования с указанием последствий («неисправное ПО может навредить пользователям, поэтому оно должно тестироваться»).
• Приравнивание свободного ПО и freeware. Свободное ПО касается свободы изучать и изменять код; freeware означает лишь отсутствие платы.
• Утверждение, что open source означает бесплатность. Это означает, что исходный код доступен и может быть изменен и распространен; при этом может взиматься плата.
• Написание о необходимости регистрации авторского права. Оно применяется автоматически к работе с момента её создания.
• Указание воздействия без его последствий. Баллы начисляются, когда это связано с причиной: ИИ проводит диагностику, поэтому механиков требуется меньше.
• Описание того, что такое ИИ, вместо того как он используется. Баллы выставляются за этапы: распознать, преобразовать, перевести, произнести.