伦理与所有权

一个计算专业人员是这样的人:他的工作——软件、系统、网络、数据——影响其他人。因为工作是技术性的,其他人往往无法判断它是否做得好或做得诚实。所以这个职业遵循共享的伦理(ethics,良好行为的原则)。

为什么伦理重要

• 信任——用户和雇主信任专业人员会为他们的利益行事。没有那种信任,软件就失去可信度。
• 影响——软件运行医疗设备、银行、车辆。粗心或不诚实的工作会伤害人。

专业团体(BCS、ACM、IEEE)为其成员发布伦理准则。

典型的原则

• 公众利益优先——保护受影响者的安全和福利。
• 诚实和胜任——对你的技能诚实;不要声称你缺乏的专长。
• 保密性(confidentiality)——保护客户和雇主的私密信息。
• 避免利益冲突(conflicts of interest)——不要接受你的利益与客户的相冲突的工作。
• 保持你的技能与时俱进;尊重知识产权(intellectual property)和隐私(privacy);公平地对待同事。

加入专业团体

教学大纲点名了两个:BCS(英国计算机学会)和 IEEE(电气与电子工程师学会)。两者都发布成员同意遵守的行为准则(code of conduct)。按评分标准措辞的加入好处:有一套可遵循的伦理指南,决定不再只凭个人判断;培训、会议和出版物使成员与时俱进;出现问题时的建议和支持,包括法律帮助;以及公认的专业身份,使雇主和客户信任该成员的工作。不加入的后果:没有伦理决定上的指导,所以程序员可能不知不觉地做出不合伦理的行为;在雇主和客户那里可信度较低,所以更难获得工作;发生争议时没有支持;以及跟不上发展和法律的更新。行为准则的目的(两分):创造一个安全、互相尊重、专业的工作环境,并确保每个员工都明白对他们的期望以及他们行为的后果。

例题。 解释程序员为什么需要对同事和公众合乎伦理地行事。

对同事:公平对待他们,不歧视;尊重他们的工作、想法和保密信息;对错误诚实,该归功于谁就归功于谁;支持而不是打压他们的发展。对公众:保护他们的个人数据和隐私;做出安全、可靠、经过充分测试的软件,因为缺陷会造成伤害;对软件能做什么实话实说;只承接自己能力范围内的工作;遵守法律并考虑对社会和环境的更广泛影响。每一边靠"理由加后果"得分,而不是单靠"公平"一个词。

合乎伦理地行事对不合伦理地行事

合乎伦理地行事保护用户、加强声誉、减少法律风险,并建立信任。不合伦理地行事(跳过测试、隐藏漏洞、滥用数据)会伤害真实用户、导致解雇或法律诉讼、损害声誉,并总体上侵蚀对技术的信任。

当你面对一个模棱两可的决定时:辨认谁的利益受影响、查阅伦理准则和法律、权衡后果、请教一位受信任的前辈,并选择把用户置于短期便利之上的选项。

例题。 你团队的新 AI 招聘工具把简历分类快十倍,但你注意到它拒绝了更多较年长的申请人。发布它会取悦你的经理,但它不公平地对待一个群体。合乎伦理的选择是把它扣住直到偏见被修正——公众利益和公平先于短期便利。

伦理也适用于用户。一个把个人电脑接入学校网络的学生应当尊重他人的隐私和数据,不当地使用社交媒体或欺凌他人是不行的,不下载或分享受版权保护的材料,不引入恶意软件或试图访问无权访问的系统,并且只为提供网络的目的使用它。"给出三个伦理考虑"的答案列出其中三条。

版权(copyright)是一个原创作品的创作者控制它如何被复制、分发、修改和表演的法律权利。它自动适用(无需注册)于源代码、软件、文档、图像、音频和视频。

没有版权,任何人都可以自由复制软件,开发者就得不到报酬,而剽窃就是合法的。有了版权,开发者能从他们的工作中挣钱(鼓励更多的软件),用户知道谁制作了它,而再利用通过许可以开发者的条件发生。版权持续很长时间(常常是创作者死后 70 年)。一般的想法和算法不受版权覆盖,但可能受一个专利(patent)覆盖。

按评分标准的措辞,程序员为什么应该给程序申明版权:为了被认定为所有者和作者(所有权得到正式承认);这样如果有人复制或窃取它就会有法律后果;限制竞争者出售同样的作品;以及能够通过授权许可赚钱。版权适用于写成的程序本身;做同样工作的另一个程序并不侵犯它。

一个软件许可证(software licence)是一个以所有者的条件授予使用软件许可的合同;选择并应用一个叫作软件许可。

商业(专有)

• 商业软件被出售:你购买一个许可证;软件只在它的条件内使用。
• 不给出源代码(一个专有(proprietary)产品);你不能修改或再分发它。
• 例子:Microsoft Office、Adobe Photoshop、大多数游戏。

在开发者想要每个用户的收入并保持对代码的控制时使用。

开源

• 源代码是公开的;用户可以读、修改和再分发它(开源(open-source))。
• 宽松(permissive)许可证(MIT、BSD)允许几乎任何使用;著佐权(copyleft)许可证(GPL)要求修改后的版本以相同的许可证发布("相同方式共享")。
• 自由软件基金会(FSF)和开源促进会(OSI)推动并批准开源许可证。

教学大纲两个都点了名,而且它们被当作不同的答案来评分。自由软件(FSF 的用语)的"自由"指的是自由而不是价格:用户可以为任何目的运行程序、研究并修改它(所以源代码必须可得)、再分发副本,以及分发修改后的版本;一份副本仍然可以收费。开源(OSI 的定义)要求源代码可得、程序可以被修改和再分发,并且许可证不歧视任何人或任何用途。"指出两种允许其他人编辑和再分发程序的许可证类型"就用这两个来回答。

• 例子:Linux、Python、Apache。

在开发者想要软件被广泛使用并由社区改进时使用。

免费软件和共享软件

• 免费软件(freeware)——免费,没有源代码,可以再分发但不能修改(Acrobat Reader、WhatsApp)。
• 共享软件(shareware)——试用期免费,然后你付费才能继续使用;没有源代码。

评分标准的描述:共享软件免费分发供试用(限时或限功能),用户付费后继续使用完整版;商业软件收费出售,不提供源代码,许可证保护开发者的知识产权,而且费用通常包含支持和更新。共享软件对程序员的好处:用户可以先试后买,所以更可能购买;它几乎不花广告费就能广泛传播;留下来用的人会付费。商业许可证的好处:开发者每份副本都能收费;代码及其权利受到保护;收入用于支持、更新和进一步开发。

要论证一个许可证选择,把它与开发者的目标(收入、覆盖面、社区)、用户的需求(成本、定制)和用例联系起来。

例题。 一位程序员写了一个要向公众出售的游戏。指出最合适的许可证并加以论证。

商业许可证:游戏收费出售,所以程序员从每份副本赚钱;不发布源代码,所以没人能复制这个游戏,或者改动后当作自己的出售;许可证保护知识产权;买家得到更新和支持。开源不合适,因为源代码会公开,游戏可能被复制、修改和再分发而不付费。

例题。 一个程序通过朗读商品标签来帮助购物者。解释为什么开源许可证可能不合适。

源代码会公开,所以它可能被改动;改动后的版本可能输出错误的商品信息,购物者就可能买错东西;而且程序员会失去对以该程序名义分发的版本的质量和安全的控制。反过来,程序以开源方式发布,是为了让其他开发者改进和扩展它、让它免费地被广泛采用,以及让用户按自己的需要调整它。

人工智能(artificial intelligence)构建做过去认为需要人类智能的任务的系统——识别语音和图像、翻译、玩游戏、驾驶。

大多数现代 AI 用机器学习(machine learning)——通过从大量数据中学习模式而在一个任务上进步的算法,而不是被一步一步地编程。用有许多层的神经网络(neural networks)的深度学习(deep learning)是今天领先的方法。

日常例子

AI 任务分成两种——理解输入,和产生输出或决策。

理解输入:

• 语音识别(speech recognition)——口语词到文本(语音助手)。
• 图像识别(image recognition)——在图像中找出物体、面部或文本。

产生输出或决策:

• 机器翻译(machine translation)——语言之间的自动翻译。
• 推荐系统(recommendation systems)——建议产品、视频或音乐。
• 自动驾驶汽车(autonomous vehicles)和机器人。

一个常见的考试场景:一个程序用一个摄像头读一个标签、翻译它,并大声读它——用光学字符识别(optical character recognition)找出词、用机器翻译转换它们,用文本转语音(text-to-speech)转成音频。

四分的"解释 AI 如何被使用"要按流水线一步步答:图像识别(OCR)分析照片的像素以定位字符;像素的图案被转换成一个个字符和单词;机器翻译把单词转换成用户的语言;文本转语音产生语音输出。每一步一分。

好处

• 无障碍——语音/图像 AI 帮助有障碍的用户;翻译帮助非母语者。
• 生产力——自动化重复任务使人腾出手来做创造性工作。
• 决策支持——AI 在巨大的数据集中发现模式(医学诊断、欺诈检测)。
• 始终可用,并为每个用户个性化。

影响:社会、经济、环境

教学大纲要求从三个方面说 AI 的影响,题目会点明其中一个。要给出影响和它的后果。

• 社会:好处——读标签的程序帮助视力受损的人、看不懂这门语言的人和有阅读困难的人;机场的人脸识别加快身份核查,并能拦下通缉的人。坏处——人脸识别可能认错人,而且未经同意就追踪每一个人,隐私因此丧失;用 AI 做作业的学生可能发展不出推理和解决问题的能力,可能依赖它而不是学习,并且可能失去一起做事带来的协作和面对面交流。
• 经济:修理厂里的 AI 故障诊断模块诊断更快更准,所以每天修好的车更多、成本下降;但可能需要的熟练技工更少,岗位因此流失,而且模块要花钱购买和维护。更一般地说,AI 提高生产率,在一些领域创造新岗位,同时在另一些领域取代常规岗位。
• 环境:训练和运行大模型在数据中心消耗大量电力和冷却用水,硬件变成电子垃圾;另一方面,AI 被用来减少建筑能耗、优化交通和监测环境。
• 伦理(课堂那道题):批改作业或监看学生的 AI 必须对每个学生公平,不能泄露他们的数据,在对他们做出决定时必须可解释,并且不能在要紧的地方取代教师的判断。

顾虑

• 偏见(bias)——训练数据中不公平的模式变成不公平的 AI 决策(招聘、放贷)。
• 岗位替代——AI 可能取代一些角色。
• 隐私——训练常常使用大量个人数据。
• 透明度——大模型是"黑盒",难以解释。
• 问责——当 AI 出错时,谁负责:开发者、用户,还是运营者?
• 滥用——深度伪造、错误信息、监视。

专业人员必须理解他们所构建的 AI 的局限、告知用户,并减少伤害。

定义题按固定的表述给分。把这些记准确。

• 对照一个职业行为准则(公众利益、胜任、诚实)而非个人观点来回答伦理问题。
• 区分版权(保护表达)和一个专利(保护一个发明)。
• 比较软件许可证:专有、开源、免费软件、共享软件和 FOSS。

常见错误

• 给出个人观点("这是错的"),而不是带后果的理由("有缺陷的软件会伤害用户,所以必须测试")。
• 把自由软件和免费软件当作同一回事。自由软件讲的是研究和修改代码的自由;免费软件只是不收费。
• 说开源就是免费。开源指源代码可得并可修改和再分发;仍然可以收费。
• 写版权必须注册。它自动适用于写成的作品。
• 只说影响不说后果。"岗位流失"要与原因挂钩才得分:AI 做了诊断,所以需要的技工更少。
• 描述 AI 是什么而不是它如何被使用。分数在步骤上:识别、转换、翻译、朗读。