Этика ИИ
Много кто разрабатывает и внедряет искусственный интеллект в свои продукты, а некоторые думают ещё про этику.
После того как я прочитала Life 3.0, решила изучить, как отличаются принципы в разных компаниях по поводу AI.

Подходы в целом похожи, но есть и свои фишки.


1. Google.
В 2018 году опубликовали семь принципов про обеспечение социальной пользы, предотвращение несправедливой предвзятости, безопасность, подотчетность, защиту конфиденциальности, научное превосходство и ограничение применения ИИ в вредоносных целях.

Полный список

2. Microsoft.
Шесть ключевых принципов: справедливость, надежность и безопасность, конфиденциальность и защита, инклюзивность, прозрачность и подотчетность. Microsoft призывает к ответственному использованию ИИ и соответствию этическим стандартам.

Ссылка

3. IBM.
У ребят всё про прозрачность и объяснимость. Они говорят: "Никакой магии, только логика и польза человечеству" и борятся с предвзятостью в алгоритмах.

Что они пишут ещё:

The IBM AI Ethics Board is at the center of IBM’s commitment to trust. Its mission is to:
- Provide governance and decision-making as IBM develops, deploys, and uses AI and other technologies
- Maintain consistency with the company’s values
- Advance trustworthy AI for our clients, our partners and the world

Ссылка

4. Meta.
Разработали принципы, направленные на прозрачность, приватность, безопасность, инклюзивность и подотчетность. (Никто не хочет, чтобы AI вышел из под контроля. 😎) Компания стремится к ответственному использованию ИИ в своих платформах.

Ссылка

5. Amazon

Они добавляют ещё важный пункт Объясняемость: результаты работы должны быть объяснимы и понятны. Но честно говоря, мне кажется, что это какая-то утопия.

- Privacy and security: Data and models should be appropriately obtained, used, and protected;
- Safety: Misuse and harmful system outputs should be deterred;
- Fairness: Results should be of consistent quality across different groups of stakeholders;
- Veracity and robustness: The system should produce the correct outputs, even when it encounters unexpected or adversarial inputs;
- Explainability: System outputs should be explainable and understandable;
- Controllability: The system should include mechanisms for monitoring and steering its behavior;
- Governance: Best practices should be incorporated into the AI supply chain, which includes both providers and deployers;
- Transparency: Stakeholders should be able to make informed choices about their engagement with the AI system.

Ссылка

6. SalesForce

Здесь ребята ещё очень много фокуса делают на том, как и что можно и нельзя использовать из их продуктов.

Например, " Формирование индивидуальных медицинских, юридических или финансовых консультаций запрещено в целях сохранения человеческого принятия решений в этих областях."

Ссылка

Любые принципы в итоге оочень сильно влияют на то, как развиваются продукты.

@projectsproducts