Еще одна ИИ компания решила потратить деньги на исследования сознания у ИИ. Я уже комментировал это направление (обобщенный ИИ), ранее, могу только сказать, что мое мнение - сознание ИИ это миф.
Anthropic только что запустила новую исследовательскую программу, посвященную «моделированию благосостояния», изучая сложные этические вопросы о том, могут ли будущие системы ИИ обрести сознание или заслуживать морального рассмотрения в будущем.
Области исследований включают разработку фреймворков для оценки сознания, изучение показателей предпочтений и дистресса ИИ и изучение вмешательств.
Anthropic наняла своего первого исследователя благосостояния ИИ Кайла Фиша в 2024 году для изучения сознания в ИИ — он оценивает вероятность того, что модели будут сознательными, в 15%.
Инициатива последовала за ростом возможностей ИИ и недавним отчетом (в соавторстве с Фишем), предполагающим, что сознание ИИ является ближайшей возможностью.
Anthropic подчеркнула глубокую неопределенность вокруг этих вопросов, отметив отсутствие научного консенсуса относительно того, могут ли текущие или будущие системы быть сознательными.
Почему это важно: Сэм Альтман ранее сравнивал ИИ с формой инопланетного интеллекта. Вскоре эти модели могут достичь уровня, который изменит то, как мы понимаем сознание и этику в отношении них. Скорее всего, мы увидим раскол, особенно с учетом того, что не существует порога, по которому ИИ можно было бы считать «сознательным» или заслуживающим прав.
