Circuit Breaker Labs ਇੱਕ ਨਵੀਂ AI ਸਟਾਰਟਅੱਪ ਕੰਪਨੀ ਹੈ, ਜਿਸਦੀ ਸਥਾਪਨਾ Shirali ਅਤੇ Arul Nigam ਦੁਆਰਾ ਕੀਤੀ ਗਈ ਹੈ। ਇਹ ਕੰਪਨੀ ਅਜਿਹੇ ਆਟੋਮੇਟਿਡ ਟੂਲਸ 'ਤੇ ਕੰਮ ਕਰ ਰਹੀ ਹੈ ਜੋ AI ਚੈਟਬੋਟਸ ਵਿੱਚ ਮਾਨਸਿਕ ਸਿਹਤ ਨਾਲ ਜੁੜੇ ਜੋਖਮਾਂ ਦੀ ਜਾਂਚ ਕਰ ਸਕਣਗੇ।
ਆਟੋਮੇਟਿਡ ਟੈਸਟਿੰਗ ਰਾਹੀਂ ਸੁਰੱਖਿਆ
Circuit Breaker Labs ਦਾ ਮੁੱਖ ਮਕਸਦ AI ਮਾਡਲਾਂ ਵਿੱਚ ਮਾਨਸਿਕ ਸਿਹਤ ਨਾਲ ਸਬੰਧਤ ਖਾਮੀਆਂ ਨੂੰ ਲੱਭਣਾ ਹੈ। ਇਹ ਕੰਪਨੀ ਰਵਾਇਤੀ ਮੈਨੂਅਲ ਰੀਵਿਊ ਦੀ ਬਜਾਏ 'ਰੇਡ-ਟੀਮਿੰਗ' (Red-Teaming) ਤਕਨੀਕ ਦੀ ਵਰਤੋਂ ਕਰਦੀ ਹੈ। ਇਸ ਵਿੱਚ ਸਿੰਥੈਟਿਕ ਏਜੰਟਾਂ ਰਾਹੀਂ ਹਜ਼ਾਰਾਂ ਰੋਜ਼ਾਨਾ ਗੱਲਬਾਤਾਂ ਦਾ ਸਿਮੂਲੇਸ਼ਨ ਕੀਤਾ ਜਾਂਦਾ ਹੈ, ਤਾਂ ਜੋ AI ਮਾਡਲ ਦੀ ਭਾਵਨਾਤਮਕ ਸਮਝ ਅਤੇ ਸੁਰੱਖਿਆ ਨੂੰ ਪਰਖਿਆ ਜਾ ਸਕੇ। ਇਸ ਪ੍ਰਕਿਰਿਆ ਰਾਹੀਂ ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਮਾਡਲ ਦੀ ਸੁਰੱਖਿਆ ਦਾ ਇੱਕ 'ਸੇਫਟੀ ਸਕੋਰ' (Safety Score) ਮਿਲਦਾ ਹੈ।
ਮਾਰਕੀਟ ਅਤੇ ਨਿਵੇਸ਼ਕਾਂ ਲਈ ਅਹਿਮ ਨੋਟ
ਜੇਕਰ ਤੁਸੀਂ AI ਸੈਕਟਰ ਵਿੱਚ ਨਿਵੇਸ਼ ਕਰਦੇ ਹੋ, ਤਾਂ ਇਹ ਸਮਝਣਾ ਜ਼ਰੂਰੀ ਹੈ ਕਿ Circuit Breaker Labs ਇੱਕ ਪ੍ਰਾਈਵੇਟ ਸਟਾਰਟਅੱਪ ਹੈ। ਇਸ ਸਮੇਂ ਇਸ ਕੰਪਨੀ ਦਾ ਕੋਈ ਵੀ ਸ਼ੇਅਰ ਸਟਾਕ ਮਾਰਕੀਟ ਵਿੱਚ ਲਿਸਟਡ ਨਹੀਂ ਹੈ ਅਤੇ ਨਾ ਹੀ ਇਸਦੇ ਕੋਈ ਪਬਲਿਕ ਫਾਈਨੈਂਸ਼ੀਅਲ ਡੇਟਾ ਜਿਵੇਂ ਕਿ ਰੈਵੇਨਿਊ ਜਾਂ ਪ੍ਰੋਫਿਟ ਮਾਰਜਿਨ ਉਪਲਬਧ ਹਨ। ਇਸ ਲਈ, ਇਹ ਰਿਟੇਲ ਨਿਵੇਸ਼ਕਾਂ ਲਈ ਸਿੱਧਾ ਨਿਵੇਸ਼ ਦਾ ਮੌਕਾ ਨਹੀਂ ਹੈ।
ਭਵਿੱਖ ਦੀ ਚੁਣੌਤੀ
Generative AI ਦਾ ਖੇਤਰ ਬਹੁਤ ਤੇਜ਼ੀ ਨਾਲ ਬਦਲ ਰਿਹਾ ਹੈ। ਸੁਰੱਖਿਆ ਪ੍ਰੋਟੋਕੋਲ ਨੂੰ ਅਪਡੇਟ ਰੱਖਣਾ ਕਿਸੇ ਵੀ ਸੇਫਟੀ-ਫੋਕਸਡ ਫਰਮ ਲਈ ਵੱਡੀ ਚੁਣੌਤੀ ਹੈ। ਆਉਣ ਵਾਲੇ ਸਮੇਂ ਵਿੱਚ ਵੱਡੀਆਂ AI ਕੰਪਨੀਆਂ ਵੱਲੋਂ ਇਨ੍ਹਾਂ ਆਟੋਮੇਟਿਡ ਟੂਲਸ ਨੂੰ ਅਪਣਾਉਣਾ ਹੀ ਇਹ ਤੈਅ ਕਰੇਗਾ ਕਿ ਇਹ ਸੁਤੰਤਰ ਆਡਿਟਿੰਗ ਮਾਡਲ ਕਿੰਨਾ ਕਾਮਯਾਬ ਹੋਵੇਗਾ।