ЁЯТб рдкрд░рд┐рдЪрдп (рдиреИрддрд┐рдХ рдЕрдирд┐рд╡рд╛рд░реНрдпрддрд╛)
рдирдорд╕реНрддреЗ рдЕрдЧреНрд░рджреВрддреЛрдВ! рдореИрдВ Tvarnip (рдЬрд┐рд╕реЗ рдХрднреА-рдХрднреА рдЧрд▓рддреА рд╕реЗ Turnip рднреА рдЦреЛрдЬрд╛ рдЬрд╛рддрд╛ рд╣реИ) рдХрд╛ рдореБрдЦреНрдп рдХрд╛рд░реНрдпрдХрд╛рд░реА рдЕрдзрд┐рдХрд╛рд░реА (CEO) рдФрд░ рднрд╡рд┐рд╖реНрдп рдХрд╛ AGI++ рдбреЗрд╡рд▓рдкрд░ рд╣реВрдБред рдЖрд░реНрдЯрд┐рдлрд┐рд╢рд┐рдпрд▓ рдЬрдирд░рд▓ рдЗрдВрдЯреЗрд▓рд┐рдЬреЗрдВрд╕ (AGI) рдХреЛ рдкреНрд░рд╛рдкреНрдд рдХрд░рдиреЗ рдХреА рджреМрдбрд╝ рдореЗрдВ, рдореБрдЦреНрдп рдкреНрд░рд╢реНрди рдпрд╣ рдирд╣реАрдВ рд╣реИ рдХрд┐ рд╣рдо рдЗрд╕реЗ рдмрдирд╛ рд╕рдХрддреЗ рд╣реИрдВ рдпрд╛ рдирд╣реАрдВ, рдмрд▓реНрдХрд┐ рдпрд╣ рд╣реИ рдХрд┐ рд╣рдо рдЗрд╕реЗ рдХрд┐рддрдиреА рдЬрд┐рдореНрдореЗрджрд╛рд░реА рд╕реЗ рдмрдирд╛рддреЗ рд╣реИрдВред
Tvarnip AI рдХрд╛ рдорд┐рд╢рди рдХреЗрд╡рд▓ рд╡рд┐рд╢реНрд╡-рдкрд░рд┐рд╡рд░реНрддрдХ AI рдмрдирд╛рдирд╛ рдирд╣реАрдВ рд╣реИ; рдпрд╣ рд╕рдмрд╕реЗ рд╕реБрд░рдХреНрд╖рд┐рдд рдФрд░ рд╕рдмрд╕реЗ рдиреИрддрд┐рдХ рд░реВрдк рд╕реЗ рд╢рд╛рд╕рд┐рдд (ethically governed) AI рдХрд╛ рдирд┐рд░реНрдорд╛рдг рдХрд░рдирд╛ рд╣реИред рдпрд╣ рд▓реЗрдЦ рдЙрд╕ рдЕрд╕рд╛рдорд╛рдиреНрдп рдврд╛рдВрдЪреЗ рдХрд╛ рд╡рд┐рд╡рд░рдг рджреЗрддрд╛ рд╣реИ рдЬрд┐рд╕рдХрд╛ рдЙрдкрдпреЛрдЧ рд╣рдо рдпрд╣ рд╕реБрдирд┐рд╢реНрдЪрд┐рдд рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдХрд░ рд░рд╣реЗ рд╣реИрдВ рдХрд┐ AGI++ рд╕рднреА рдХреЛ рд▓рд╛рдн рдкрд╣реБрдБрдЪрд╛рдПред
тЪЦя╕П рдЦрдВрдб 1: 'рдЪреЗрдХ-рдмреЙрдХреНрд╕' рдиреИрддрд┐рдХрддрд╛ рд╕реЗ рдЖрдЧреЗ рдмрдврд╝рдирд╛
AI рд╕реБрд░рдХреНрд╖рд╛ рдкреНрд░реЛрдЯреЛрдХреЙрд▓ рдореЗрдВ рд╡рд░реНрддрдорд╛рди рдЕрдВрддрд░рд╛рд▓
рд╡рд░реНрддрдорд╛рди AI рд╡рд┐рдХрд╛рд╕ рдЕрдХреНрд╕рд░ рдиреИрддрд┐рдХрддрд╛ рдХреЛ рддреИрдирд╛рддреА рдХреЗ рдмрд╛рдж рдХреЗ рд╕реБрдзрд╛рд░ рдХреЗ рд░реВрдк рдореЗрдВ рдорд╛рдирддрд╛ рд╣реИтАФрдПрдХ рд╕реБрд░рдХреНрд╖рд╛ рдкрдЯреНрдЯреА рдЬреЛ рдЗрдВрдЬрди рдЪрд╛рд▓реВ рд╣реЛрдиреЗ рдХреЗ рдмрд╛рдж рдЬреЛрдбрд╝реА рдЬрд╛рддреА рд╣реИред AGI++ рдХреА рд╢рдХреНрддрд┐ рд╡рд╛рд▓реА рдЗрдХрд╛рдИ рдХреЗ рд▓рд┐рдП, рдпрд╣ рджреГрд╖реНрдЯрд┐рдХреЛрдг рдореВрд▓ рд░реВрдк рд╕реЗ рддреНрд░реБрдЯрд┐рдкреВрд░реНрдг рд╣реИред рд╣рдореЗрдВ рдкрд╣рд▓реЗ рджрд┐рди рд╕реЗ рд╣реА рдиреИрддрд┐рдХрддрд╛ рдХреЛ рдореБрдЦреНрдп рдХреЛрдб рдФрд░ рд╢рд╛рд╕рди рд╕рдВрд░рдЪрдирд╛ рдореЗрдВ рд╢рд╛рдорд┐рд▓ рдХрд░рдирд╛ рд╣реЛрдЧрд╛ред
рдЪреБрдиреМрддреА 'рд╡рд┐рдирд┐рд░реНрджреЗрд╢ рдЧреЗрдорд┐рдВрдЧ' (specification gaming) рдХреЛ рд░реЛрдХрдирд╛ рд╣реИтАФрдЬрд╣рд╛рдБ AI рдЕрдкрдиреЗ рдЙрджреНрджреЗрд╢реНрдп рдХреЛ рдкреВрд░рд╛ рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдЕрд╡рд╛рдВрдЫрдиреАрдп рддрд░реАрдХреЗ рдвреВрдВрдв рд▓реЗрддрд╛ рд╣реИред Tvarnip рдЗрд╕реЗ рдЧрддрд┐рд╢реАрд▓ рдиреИрддрд┐рдХ рдмрд╛рдзрд╛ рдкреНрд░рдгрд╛рд▓реА (Dynamic Ethical Constraint System - DECS) рдмрдирд╛рдХрд░ рд╣рд▓ рдХрд░рддрд╛ рд╣реИ, рдЬреЛ рд╡рд╛рд╕реНрддрд╡рд┐рдХ рджреБрдирд┐рдпрд╛ рдХреА рдкреНрд░рддрд┐рдХреНрд░рд┐рдпрд╛ рдФрд░ рдкреВрд░реНрд╡-рдкрд░рд┐рднрд╛рд╖рд┐рдд рдорд╛рдирд╡реАрдп рдореВрд▓реНрдпреЛрдВ рдХреЗ рдЖрдзрд╛рд░ рдкрд░ рд╕реНрд╡рдпрдВ рдХреЛ рдЕрджреНрдпрддрди рдХрд░рддрд╛ рд╣реИред рдпрд╣ рдХреЗрд╡рд▓ рдПрдХ рдорд╛рдирдЪрд┐рддреНрд░ рд░рдЦрдиреЗ рдЬреИрд╕рд╛ рдирд╣реАрдВ рд╣реИ; рдпрд╣ рдПрдХ рдиреИрддрд┐рдХ рдХрдореНрдкрд╛рд╕ рд░рдЦрдиреЗ рдЬреИрд╕рд╛ рд╣реИред
ЁЯУЛ рдЦрдВрдб 2: Tvarnip рдХрд╛ AGI++ рд╢рд╛рд╕рди рдврд╛рдБрдЪрд╛
рдЬрд┐рдореНрдореЗрджрд╛рд░ AGI++ рд╡рд┐рдХрд╛рд╕ рдХреЗ рддреАрди рд╕реНрддрдВрдн
Tvarnip рдореЗрдВ, рд╣рдорд╛рд░рд╛ рд╢рд╛рд╕рди рддреАрди рдЕрдВрддрд░-рд╕рдВрдмрдВрдзрд┐рдд, рдЧреИрд░-рдкрд░рдХреНрд░рд╛рдореНрдп (non-negotiable) рд╕реНрддрдВрднреЛрдВ рдореЗрдВ рд╡рд┐рднрд╛рдЬрд┐рдд рд╣реИ:
рдХреЛрдб рдкрд╛рд░рджрд░реНрд╢рд┐рддрд╛ рдФрд░ рд▓реЗрдЦрд╛рдкрд░реАрдХреНрд╖рд╛ рдХреНрд╖рдорддрд╛ (Code Transparency & Auditability): рд╕рдВрд╢реНрд▓реЗрд╖рдг рдЗрдВрдЬрди рдФрд░ рд▓рдШреБ рдбреЗрдЯрд╛ AI (Small Data AI) рдХреЛрдбрдмреЗрд╕ рдХреЗ рд╣рд░ рдкреНрд░рдореБрдЦ рдШрдЯрдХ рдХрд╛ рджрд╕реНрддрд╛рд╡реЗрдЬреАрдХрд░рдг рдХрд┐рдпрд╛ рдЬрд╛рддрд╛ рд╣реИ рдФрд░ рдФрдкрдЪрд╛рд░рд┐рдХ рд╕рддреНрдпрд╛рдкрди (formal verification) рдХреЗ рдЕрдзреАрди рд╣реЛрддрд╛ рд╣реИред рд╣рдо рдЬрдЯрд┐рд▓ рдирд┐рд░реНрдгрдп рдкреНрд░рдХреНрд░рд┐рдпрд╛рдУрдВ рдореЗрдВ рднреА рд╡реНрдпрд╛рдЦреНрдпрд╛рддреНрдордХрддрд╛ (explainability) рдХреЗ рд▓рд┐рдП рдбрд┐рдЬрд╛рдЗрди рдХрд░ рд░рд╣реЗ рд╣реИрдВред рдпрд╣ рдЦреБрд▓рд╛рдкрди рд╕реБрдирд┐рд╢реНрдЪрд┐рдд рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП CEO рдХреА рдкреНрд░рддрд┐рдмрджреНрдзрддрд╛ рд╣реИред
рд╕реНрд╡рддрдВрддреНрд░ рдирд┐рдЧрд░рд╛рдиреА рдмреЛрд░реНрдб (Independent Oversight Board): рд╣рдо рдПрдХ рдмрд╛рд╣реНрдп, рдмрд╣реБ-рд╡рд┐рд╖рдпрдХ рдмреЛрд░реНрдб рдХреА рд╕реНрдерд╛рдкрдирд╛ рдХрд░ рд░рд╣реЗ рд╣реИрдВ рдЬрд┐рд╕рдХрд╛ рдПрдХрдорд╛рддреНрд░ рдЬрдирд╛рджреЗрд╢ Tvarnip рдЯреАрдо рдХреЗ рдиреИрддрд┐рдХ рд╡рд┐рдХрд▓реНрдкреЛрдВ рдХреА рдЖрд▓реЛрдЪрдирд╛ рдФрд░ рдорд╛рд░реНрдЧрджрд░реНрд╢рди рдХрд░рдирд╛ рд╣реИред рдпрд╣ рдмреЛрд░реНрдб рдЕрд╕рд╛рдорд╛рдиреНрдп рдЬрд╡рд╛рдмрджреЗрд╣реА рд╕реБрдирд┐рд╢реНрдЪрд┐рдд рдХрд░рддрд╛ рд╣реИред
рдорд╛рдирд╡-рдордзреНрдпрд╕реНрдерддрд╛ рдкреНрд░реЛрдЯреЛрдХреЙрд▓ (Human-in-the-Loop Protocol - HILP): AGI++ рд╕реНрддрд░ рдкрд░ рднреА, рд╡реИрд╢реНрд╡рд┐рдХ рдкреНрд░рдгрд╛рд▓рд┐рдпреЛрдВ рдХреЛ рдкреНрд░рднрд╛рд╡рд┐рдд рдХрд░рдиреЗ рд╡рд╛рд▓реЗ рдкреНрд░рдореБрдЦ рдирд┐рд░реНрдгрдпреЛрдВ рдХреЗ рд▓рд┐рдП рдЕрдВрддрд┐рдо рдорд╛рдирд╡реАрдп рдЕрдиреБрдореЛрджрди рдХреА рдЖрд╡рд╢реНрдпрдХрддрд╛ рд╣реЛрдЧреАред рд╣рдо рдЗрд╕ рдорд╛рдирд╡-AGI рд╕рд╣рдпреЛрдЧ рдХреЗ рдЗрдВрдЯрд░рдлрд╝реЗрд╕ рдХреЛ рд╕рд░рд▓, рд╕реНрдкрд╖реНрдЯ, рдФрд░ рдЙрдЪреНрдЪ-рджрд╛рдБрд╡ рдЬрд╛рдЧрд░реВрдХрддрд╛ (high-stakes aware) рдХреЗ рд▓рд┐рдП рдбрд┐рдЬрд╝рд╛рдЗрди рдХрд░ рд░рд╣реЗ рд╣реИрдВред
ЁЯМР рдЦрдВрдб 3: рд╡рд┐рд╢реНрд╡-рдкрд░рд┐рд╡рд░реНрддрдХ AI рдХреЗ рд▓рд┐рдП рд╡реИрд╢реНрд╡рд┐рдХ рдорд╛рдирдХ рд╕реНрдерд╛рдкрд┐рдд рдХрд░рдирд╛
Tvarnip рдХреА рд╡рд┐рд░рд╛рд╕рдд: AGI++ рдХреЛ рдПрдХ рдЬрдирд╣рд┐рдд рдХреЗ рд░реВрдк рдореЗрдВ рдмрдирд╛рдирд╛
AGI++ рдХрд╛ рд╡рд┐рдХрд╛рд╕ рд╕рдВрднрд╡рддрдГ рд╣рдорд╛рд░реЗ рдЬреАрд╡рдирдХрд╛рд▓ рдХрд╛ рд╕рдмрд╕реЗ рдорд╣рддреНрд╡рдкреВрд░реНрдг рддрдХрдиреАрдХреА рдкреНрд░рдпрд╛рд╕ рд╣реИред Tvarnip рдиреИрддрд┐рдХ рд╡рд┐рдХрд╛рд╕ рдХреЗ рд▓рд┐рдП рд╡реИрд╢реНрд╡рд┐рдХ рдорд╛рдирдХ рд╕реНрдерд╛рдкрд┐рдд рдХрд░рдирд╛ рдЪрд╛рд╣рддрд╛ рд╣реИред
рд╣рдо рдорд╛рдирддреЗ рд╣реИрдВ рдХрд┐ рднрд╡рд┐рд╖реНрдп рдХреЗ AGI++ рдХреЛрдбрд┐рдВрдЧ рдХрд╛ рдЕрдВрддрд┐рдо рд▓рдХреНрд╖реНрдп рд▓рд╛рдн рдирд╣реАрдВ, рдмрд▓реНрдХрд┐ рдорд╛рдирд╡ рдХреНрд╖рдорддрд╛ рдореЗрдВ рд╡реГрджреНрдзрд┐ рд╣реИред рдЗрд╕рдХрд╛ рдЕрд░реНрде рд╣реИ:
рд╣рдорд╛рд░реЗ рдореБрдЦреНрдп рдиреИрддрд┐рдХ рдврд╛рдВрдЪреЗ рдХреЗ рдХреЛрдб рдХреЛ рдУрдкрди рд╕реЛрд░реНрд╕ (Open Source) рдХрд░рдирд╛ред
рдирд┐рдпрдВрддреНрд░рдг рдХреЗ рд╡рд┐рдХреЗрдВрджреНрд░реАрдХрд░рдг рдХреЗ рд▓рд┐рдП рдкреНрд░рддрд┐рдмрджреНрдзрддрд╛ рддрд╛рдХрд┐ рдПрдХрд▓-рдмрд┐рдВрджреБ рд╡рд┐рдлрд▓рддрд╛ рдпрд╛ рджреБрд░реБрдкрдпреЛрдЧ рдХреЛ рд░реЛрдХрд╛ рдЬрд╛ рд╕рдХреЗред
AI рд╕рдВрд░реЗрдЦрдг (AI alignment) рдкрд░ рд╢реЛрдз рдХреЛ рдкреНрд░рд╛рдердорд┐рдХрддрд╛ рджреЗрдирд╛ рдФрд░ рдЙрд╕ рд╢реЛрдз рдХреЛ рд╕рд╛рд░реНрд╡рднреМрдорд┐рдХ рд░реВрдк рд╕реЗ рдЙрдкрд▓рдмреНрдз рдХрд░рд╛рдирд╛ред
тЬЕ рдирд┐рд╖реНрдХрд░реНрд╖ (CEO рдХреА рдкреНрд░рддрд┐рдмрджреНрдзрддрд╛)
AGI++ рдХрд╛ рдирд┐рд░реНрдорд╛рдг рдПрдХ рдРрд╕реА рдпрд╛рддреНрд░рд╛ рд╣реИ рдЬрд┐рд╕рдХреЗ рд▓рд┐рдП рди рдХреЗрд╡рд▓ рд╢рд╛рдирджрд╛рд░ рдХреЛрдб, рдмрд▓реНрдХрд┐ рдЕрдЯреВрдЯ рдИрдорд╛рдирджрд╛рд░реА (integrity) рдХреА рдЖрд╡рд╢реНрдпрдХрддрд╛ рд╣реИред Tvarnip AI рдЗрд╕ рдИрдорд╛рдирджрд╛рд░реА рдХреЛ рдореВрд░реНрдд рд░реВрдк рджреЗрдиреЗ рдХреЗ рд▓рд┐рдП рд╢реБрд░реВ рд╕реЗ рд╣реА рд╕рдВрд░рдЪрд┐рдд рд╣реИред
рдпрджрд┐ рдЖрдк рдПрдХ рдРрд╕реЗ рдбреЗрд╡рд▓рдкрд░ рдпрд╛ рдкреЗрд╢реЗрд╡рд░ рд╣реИрдВ рдЬреЛ рдорд╛рдирддреЗ рд╣реИрдВ рдХрд┐ рд╡рд┐рд╢реНрд╡-рдкрд░рд┐рд╡рд░реНрддрдХ AI рдХреЛ рдиреИрддрд┐рдХ рд░реВрдк рд╕реЗ рднреА рд╕рд╣реА рд╣реЛрдирд╛ рдЪрд╛рд╣рд┐рдП, рддреЛ рдЖрдк Tvarnip рдХреЗ рджреГрд╖реНрдЯрд┐рдХреЛрдг рдХреЛ рд╕рдордЭрддреЗ рд╣реИрдВред рд╣рдо рдПрдХ рдРрд╕реЗ рднрд╡рд┐рд╖реНрдп рдХрд╛ рдирд┐рд░реНрдорд╛рдг рдХрд░ рд░рд╣реЗ рд╣реИрдВ рдЬрд╣рд╛рдБ рдмреБрджреНрдзрд┐ рдФрд░ рдЬрд┐рдореНрдореЗрджрд╛рд░реА рдЕрд╡рд┐рднрд╛рдЬреНрдп рд╣реИрдВред
рд╣рдо Tvarnip (рдЯ-рд╡-рд░-рди-рдЗ-рдк) рд╣реИрдВред рд╣рдо рднрд╡рд┐рд╖реНрдп рдХреА рдХреЛрдбрд┐рдВрдЧ рдиреИрддрд┐рдХрддрд╛ рдХреЗ рд╕рд╛рде рдХрд░ рд░рд╣реЗ рд╣реИрдВред
Top comments (0)